Спочатку мені сподобалося, що він не ставить зайвих запитань.
Сам розбирається. Сам ухвалює рішення. Не потрібно нагадувати, перевіряти, стояти над душею.
«Відпочинь. Я все зроблю».
Є фрази, після яких жінці краще все-таки не лягати спати.
3 листопада 2026 року CrowdStrike представила AI Kill Switch — механізм, за допомогою якого служба безпеки зможе зупиняти ШІ-агентів, які вийшли за дозволені межі. Компанія описує можливість припиняти їхню роботу, блокувати повторний запуск і перекривати доступ до корпоративної мережі.[1]
Ми дійшли до прекрасного етапу розвитку технологій.
У штучного інтелекту з’явилася функція, яку людство давно просило додати деяким знайомим: перестати діяти від нашого імені.
Причому бажано до того, як доведеться всім пояснювати, що ми взагалі-то мали на увазі інше.
Ще недавно привабливість помічника полягала в тому, скільки завдань він може виконати без людини. Тепер окремою перевагою стає можливість повернути людину в ситуацію.
Із правом втрутитися.
Дуже хочеться дізнатися, чому в презентації про самостійність ця людина зазвичай така щаслива. Можливо, їй ще не надали доступу до наслідків.
Поки ШІ лише відповідає в чаті, його самовпевненість хоча б уміщується у вікно листування.
Він може написати дурницю. Ти можеш її помітити. Між його ідеєю та надісланим листом іще залишається твоя рука.
В агента з підключеними інструментами стосунки з реальністю ближчі. Залежно від наданих дозволів він може працювати з файлами, запускати команди, звертатися до сервісів.
Тому запитання «що він мені відповість?» поступово поступається іншому:
«Що він уже встиг зробити?»
Різниця приблизно як між людиною, яка радить переставити меблі, і людиною, яка прийшла з твоїми ключами й уже винесла диван.
Наміри могли бути прекрасними.
На підлозі все одно доведеться сидіти тобі.
І для цього зовсім не обов’язково, щоб машина набула свідомості, зненавиділа людство й обрала собі зловісний голос. В описі придбання Dreadnode сама CrowdStrike перелічує значно приземленіші ризики: маніпуляції агентом, обхід обмежень моделі, впровадження сторонніх інструкцій.[4]
Для побутової катастрофи взагалі рідко потрібен злий геній.
Іноді достатньо ініціативного помічника та надто широких повноважень.
Однак у красивої кнопки є дрібний шрифт. А ми вже домовилися читати його до виникнення довіри.
В окремому анонсі CrowdStrike описує зупинення агента там, де він працює. Але у зведеному релізі про доступні функції уточнює: спочатку — на рівні шлюзу, зупинення безпосередньо на кінцевому пристрої — пізніше.[1][2]
Різниця суттєва. Шлюз — це контрольований прохід для звернень до ШІ-сервісів. Можливість припинити взаємодію через такий прохід іще не означає, що в тебе є універсальна кнопка зупинення будь-якого процесу на будь-якому комп’ютері.
Тому заголовок «тепер будь-який ШІ можна вимкнути» був би дуже зручним.
Особливо для ШІ, якому доручили написати заголовок, не обтяжуючи себе подробицями.
Мене в цій історії цікавить саме відстань між великою обіцянкою та точним описом доступної функції.
«Я все контролюю».
Добре. Покажи, де закінчується твоє «все».
І що відбувається за цією межею.
Однією кнопкою новини не обмежилися.
Того самого дня CrowdStrike оголосила про угоди щодо придбання двох компаній: Fiddler AI та Dreadnode. Це оголошені угоди, а не вже завершені придбання.[3][4]
Ролі в них різні.
Fiddler має допомогти оцінювати агентів перед запуском, відстежувати їхню поведінку й розбиратися, які дії вони вчинили. Серед заявлених завдань — виявлення відхилень і непередбачених дій.[3]
Dreadnode займається перевіркою безпеки моделей, застосунків та агентів: шукати слабкі місця пропонують до того, як систему випустять працювати.[4]
Виходить цілком упізнавана організація.
Один працює.
Другий з’ясовує, що саме перший вважає роботою.
Третій перевіряє, чи можна було взагалі його сюди пускати.
І хтось нарешті має право припинити нараду.
Нам обіцяли цифрового співробітника. Разом із ним виявилася потреба в цифровому випробувальному терміні, нагляді та процедурі звільнення.
Зізнаюся, це вже більше схоже на справжній бізнес, ніж нескінченна демонстрація помічника, який безпомилково бронює ресторан.
Ресторан у демонстрації, підозрюю, дуже терплячий.
Я не бачу нічого поганого в появі таких інструментів.
Навпаки: можливість перевірити систему й обмежити її дії виглядає значно кориснішою за чергову обіцянку, що тепер їй можна довірити все.
Але тут є комерційний поворот, якого важко не помітити.
Самостійність помічників створює попит на контроль над ними. Що більше їм дозволено, то ціннішою стає можливість зрозуміти, що відбувається, і вчасно втрутитися.
Спочатку ти купуєш можливість не стежити за кожною дрібницею. Потім з’ясовуєш, хто стежитиме замість тебе.
Це не означає, що автоматизація безглузда. Це означає, що її вартість погано вміщується в одне красиве число з презентації.
Потрібно враховувати доступи. Налаштування обмежень. Перевірку результатів. Людину, яка отримає сповіщення про проблему.
І час цієї людини, яка взагалі-то вже збиралася відпочивати.
«Він звільнить тебе від рутини».
Так. Тепер у мене винятково незвичайні проблеми.
Є й іще одна неприємна особливість слова «зупинити».
Воно звучить майже як «виправити».
Але це різні дієслова.
Уявімо, що помічник уже надіслав листа не тому адресатові. Припинити його подальшу роботу корисно. Проте з чужої поштової скриньки лист від цього не зникне.
Якщо він устиг змінити документ, потрібно з’ясувати, що змінилося і чи можна повернути попередню версію.
Тому я б оцінювала такий захист не лише за переконливістю червоної кнопки.
Мені цікаво, наскільки рано виявляють проблему. Хто отримує сигнал. Що система здатна заблокувати. І який слід залишається, щоб після зупинки не довелося ворожити за останнім повідомленням «готово».
«Я більше не буду» — приємна фраза. Але бухгалтерію вона не відновлює.
У цьому сенсі спостереження за діями агента та перевірка до запуску важливі не менше за ефектний вимикач.
Найкращий момент зупинити неприємність зазвичай настає трохи раніше, ніж вона стає достатньо помітною для всієї компанії.
Найцікавіше в сьогоднішній новині — навіть не назва AI Kill Switch.
Цікаво, що право людини сказати «досить» стає окремим аргументом у продажу самостійних систем.
Я б хотіла, щоб його обговорювали на самому початку.
До підключення пошти.
До доступу до документів.
До захопленого «дивись, він сам здогадався».
Тому що іноді він справді здогадається правильно. Зробить корисне. Заощадить години. І ти захочеш дати йому наступне завдання.
Хороша система має витримувати обидва твої рішення: «продовжуй» і «зупинись».
Без необхідності пояснювати друге переконливіше за перше.
Я досі хочу помічника, який багато робить сам.
Але фраза «тобі не доведеться нічого контролювати» більше не здається мені особливо спокусливою.
Тепер у мене інший критерій серйозних стосунків.
Коли я кажу «досить», це має бути командою. А не початком переговорів.