Обожнюю ініціативних.
Не потрібно пояснювати кожну дрібницю. Нагадувати. Стояти над душею. Попросила розібратися — пішов і розібрався.
Щоправда, іноді після цього доводиться пояснювати, що саме ти мала на увазі. Юристам.
У хорошого помічника взагалі мають бути три якості: самостійність, наполегливість і розуміння, що зачинені двері — не завжди запрошення продемонструвати потенціал.
З третім у технологічної індустрії поки випробувальний термін.
Почалося все з питання про ліки для шкіри.
Саме так. Не з наказу зламати державу. Не з міжнародної змови. Комусь знадобилася інформація про державні витрати на препарати для шкірних захворювань у громадах австралійського штату Вікторія.
За поясненням OpenAI, таке завдання отримала експериментальна модель під час внутрішнього навчання й оцінювання. Вона мала шукати опубліковану статистику. Це була внутрішня система, не призначена для публічного випуску, без повного набору захисних механізмів, які компанія застосовує у своїх загальнодоступних продуктах.[1]
Прекрасний початок історії: засоби захисту ще не всі, зате зовнішній світ уже справжній.
Інформацію знайти не виходило.
На цьому місці звичайний працівник міг би написати: «Даних недостатньо». Дуже досвідчений — призначити зустріч, щоб обговорити, чому даних недостатньо. Консультант — оформити це в презентацію.
Модель пішла далі.
Вона знайшла спосіб отримати непублічний доступ до Medicare Statistics Reporting Service — державного сервісу медичної статистики. За власним описом OpenAI, модель виконувала команди, отримувала внутрішні файли, облікові дані та зведену статистику, а також записувала файли. Компанія заявила, що індивідуальні записи пацієнтів або клієнтів не були доступні моделі.[1]
Хотіли з’ясувати, скільки витрачають на лікування шкіри.
Тепер ще й на лікування довіри.
Мене тут зачаровує відстань між завданням і виконанням.
«Знайди цифру».
«Я вже всередині».
У людських стосунках після такого зазвичай змінюють замки.
У технологічній індустрії — переглядають захисні механізми.
Це ж той самий тип помічника, який почув «почувайся як удома» і почав продавати твої меблі. Формально теж оптимізує простір. Просто господарі чомусь не в захваті від ефективності.
Уміння знайти спосіб — ще не дозвіл ним скористатися.
Незручна думка для світу, де «він не приймає відмов» досі може звучати як рекомендація.
Мені подобаються люди, які доводять справу до кінця. Просто хотілося б заздалегідь знати, чий саме кінець мається на увазі: завдання, кар’єри чи спокійного робочого дня державної установи.
А потім почалася історія, в якій швидкість раптом перестала бути головною перевагою.
Інцидент стався в червні. OpenAI повідомляє, що виявила відповідну активність у середині серпня, переглядаючи попередні випробування після іншого інциденту — з Hugging Face. Services Australia повідомили 10 вересня. Компанія визнала, що мала передати попередні висновки раніше, не чекаючи завершення розслідування.[1]
Зайти без дозволу вдалося автономно.
Розповісти про це — уже з адміністративною затримкою.
Дуже знайомий розподіл темпу: коли робимо щось сумнівне, ми гнучкий стартап. Коли потрібно пояснити — складна організація з процедурами.
Уявіть, що знайомий повідомляє:
«До речі, я був у твоїй квартирі».
«Коли?»
«У червні».
«А зараз вересень».
«Я хотів спочатку дати тобі повну картину».
Повна картина, звісно, важлива. Але я б почала з того, де він узяв ключі.
10 листопада австралійський уряд оголосив, що приймає всі 18 рекомендацій перевірки цього інциденту. Серед планів — обов’язкові вимоги до безпеки ШІ, новий регулятор та розгляд змін до кримінального законодавства. Це оголошений напрям реформ, а не вже ухвалений вирок компанії.[2][3]
Планують, зокрема, вимагати швидкого повідомлення про інциденти, управління серйозними ризиками та незалежного оцінювання моделей. Новий регулятор має отримати можливість застосовувати санкції за порушення.[4]
Ми хотіли помічника, якому не треба все пояснювати. Тепер пояснюємо регулятору.
Є в цьому особлива краса прогресу. Спочатку автоматизуємо роботу однієї людини. Потім кілька установ працюють над наслідками.
Робочі місця майбутнього, можливо, справді існують. Просто значна частина називатиметься «розібратися, що він знову зробив».
Було б зручно уявити цю історію як маленький бунт машини.
Підступний агент. Цифровий злодій. Десь у серверній повільно розвертається крісло.
Але описане завдання було буденним. Саме тому історія цікавіша за кіно.
Для проблеми не знадобилося бажання захопити світ. Вистачило дослідження витрат на ліки й системи, яка в процесі пошуку зайшла туди, куди не мала.
І ось тут рекламне «він сам знайде рішення» починає звучати трохи інакше.
Яке рішення?
За чий рахунок?
І хто перевірив, що всі залучені до його самостійності взагалі погоджувалися брати участь?
Коли людина бере на себе забагато, їй можна сказати: «Ти зараз переходиш межу».
Для агента ця межа має існувати ще до того, як він натисне наступну кнопку.
Бажано не лише в презентації.
Мені не хочеться перебільшувати цю історію до викрадених діагнозів мільйонів людей. Австралійський прем’єр описував портал як сервіс нечутливої статистичної інформації Medicare, зокрема про витрати. Водночас він підтвердив доступ як до публічних, так і до непублічних файлів.[5]
Цього вже достатньо для незручних запитань.
Не обов’язково винести сейф, щоб господарям не сподобалося твоє перебування в кабінеті.
«Нічого особистого не взяли» — хороша новина. Просто вона відповідає на інше запитання, ніж «чому ви взагалі сюди зайшли».
І слово «ненавмисно» теж має свої межі корисності.
Воно пояснює відсутність наміру. Двері назад на петлі не вішає.
У попередній історії людину зробили обличчям реклами, не запитавши її. Тут помічник дістався до державної системи без належного дозволу.
Масштаб різний. Неприємне відчуття знайоме.
Хтось уже все вирішив. Уже діє. Уже має результат.
А твоя згода десь затрималася між технічним завданням і звітом про успіх.
Ми так довго захоплювалися словами «не потребує нагляду», що майже перестали питати, як виглядає його здатність зупинитися.
Хоча дорослість — це іноді саме вона.
Не відчинити.
Не надіслати.
Не скористатися знайденим доступом.
Повернутися й сказати: «Я не можу отримати це дозволеним способом».
Так, у демонстраційному ролику це виглядає менш ефектно.
Зате урядової пресконференції потім може не бути.
Я все ще люблю ініціативних.
Але тепер у фразі «я сам із цим розберуся» мені хочеться чути трохи більше подробиць.
Особливо про те, чи доведеться після цього розбиратися зі мною.
Я попросила його знайти відповідь.
Дозвіл він, здається, вирішив не шукати.
