Мені подобаються чоловіки, які беруть відповідальність.

Особливо до того моменту, коли з’ясовується, що беруть вони рішення, а відповідальність залишають мені.

Він обіцяв розібратися з рахунками. Перевірити витрати. Знайти вигідніші умови. Звільнити мене від дрібних справ, через які доросле життя нагадує неоплачувану роботу секретаркою у самої себе.

Я мала лише довіритися.

І надати доступ.

Невелике уточнення, після якого романтична історія набуває ознак фінансової.


У листопаді Citi додав до угоди для користувачів онлайн-банкінгу окремий розділ про сторонніх ШІ-агентів.

Банк застерігає від надання їм доступу. Якщо клієнт усе ж дозволяє агенту працювати з рахунком, Citi заявляє, що вважатиме його дії авторизованими клієнтом — навіть коли вони суперечать інструкціям, які той дав помічнику.[1]

Ти сказала: «Подивися».

Він почув: «Розпоряджайся».

Десь між цими дієсловами лежать твої гроші.


Ми вже навчилися жити з помилками чат-ботів.

Він вигадав джерело — неприємно. Переплутав дату — виправили. Написав листа так, ніби його виховувала тендерна документація, — попросили людською мовою.

Але тепер йому пропонують не лише писати.

Натискати. Замовляти. Переказувати. Діяти.

І тут фраза «перепрошую за плутанину» раптом втрачає свою терапевтичну цінність.

Бо плутанина вже пішла з рахунку.

Вибачення згенеровано успішно. Повернення коштів до цієї функції не входить.


У правилах Citi є ще гостріший момент.

Банк пише: якщо передані агенту облікові дані згодом потраплять до інших людей чи агентів, дії з використанням цих даних також розглядатимуться ним як авторизовані клієнтом. Контроль за діяльністю помічника угода покладає на користувача.[1]

Виходить майже сімейна історія.

Ти дала ключі одному.

Він запросив компанію.

Пояснювати, чому у квартирі більше немає телевізора, будеш ти.

Звичайно, текст банківської угоди не є остаточним рішенням суду щодо будь-якого можливого випадку. Сам розділ містить застереження про застосовне законодавство. Не варто читати його як оголошення, що всі права клієнтів автоматично скасовано.[1]

Але позицію банку він формулює дуже виразно.

Технологія може бути автономною.

Відповідальність бажано залишити платоспроможною.


Найцікавіше в цій історії — момент передачі повноважень.

Коли я прошу людину купити молоко, це не означає, що я дозволила їй придбати ферму.

Коли прошу подивитися, чи можна заощадити, я ще не погодилася на всі можливі способи економії.

У звичайній розмові ми покладаємося на контекст, здоровий глузд і можливість перепитати.

«Ти точно цього хочеш?»

Дратівливе питання, коли вибираєш шрифт.

Прекрасне питання, коли з твого рахунку збираються щось списати.

Однак реклама автономності обіцяє саме те, що уточнень стане менше.

Він усе зрозуміє.

Сам розбереться.

Не турбуватиме через дрібниці.

Потім з’ясовується, що ти й була останньою системою захисту від його розуміння.


І тут повертається наш новий знайомий — botsitting, догляд за ботом.

Тільки тепер це вже не перевірка вигаданих посилань.

Тепер ти наглядаєш за помічником, якому дозволили підійти до грошей.

Читаєш, що він збирається зробити. Перевіряєш, що зробив. З’ясовуєш, чи не вирішив він, що твоє «було б добре» — це достатня підстава для транзакції.

Тобі продали звільнення від рутини.

Разом із ним видали посаду внутрішнього аудитора.

Без зарплати, зате з персональною відповідальністю.

Я хотіла менше думати про рахунки. Тепер думаю ще й про того, хто про них думає.


Було б несправедливо сказати, що банк просто вередує.

Між помічником, який показує інформацію, і помічником, який може діяти з рахунком, є принципова різниця.

Запитати, куди зникають гроші, — одне.

Дозволити комусь організувати їхнє подальше зникнення — інше.

Але у правилах є деталь, яка заслуговує на підняту брову: цей новий розділ не поширюється на відповідні сторонні ШІ-інструменти, які сам Citi надає через власний онлайн- або мобільний банкінг.[1]

Тобто важливо не лише, чи це штучний інтелект.

Важливо, хто його привів.

«З чужими не ходи. У нас є свій».

Дуже знайома турбота.

З цього винятку не випливає, що банківський інструмент безпомилковий. Але для мене він ставить цікаве питання: де закінчується захист клієнта й починається боротьба за право бути єдиним посередником між клієнтом та його грошима?


У цій історії всі можуть звучати переконливо.

Розробник каже: наш агент допоможе.

Банк каже: ми попередили.

Користувач каже: я просила зовсім іншого.

І тільки остання репліка може виявитися найдорожчою.

Мені не потрібен помічник, який ніколи не помиляється. Такого стандарту не витримують і люди.

Мені потрібна зрозуміла межа між «допоможи вирішити» та «вирішуй за мене».

Можливість побачити дію до того, як вона стала наслідком.

І чесна відповідь на питання: якщо система зробила не те, хто допоможе це виправити?

Не після трьох сторінок пояснень, що я сама обрала інновації.


Ми так довго обговорювали, чи можна довіряти штучному інтелекту, що майже пропустили інше питання.

Хто відповідатиме, якщо довіра не виправдається?

Виявилося, це питання вже читають юристи.

Поки ми дивимося демонстрацію, де помічник усе робить сам.

Він узяв на себе мої справи.

Відповідальність чомусь залишилася на моє ім’я.