У Міккі бездоганно білі рукавички. У цій історії є кілька документів, які я теж воліла б брати до рук лише в них.
18 вересня Character.AI оголосила про свій «новий розділ». Генеральний директор переходив у Disney, слідом мали піти люди з технічної команди. Користувачам подякували й запевнили, що застосунок працює далі.
12 жовтня новий розділ настав.
Розділ 11. Той самий Chapter 11. Банкрутство. [1][2]
Рідкісний випадок, коли корпоративний сторітелінг не схибив із нумерацією.
Для тих, хто пропустив вступ: Character.AI дає змогу розмовляти зі штучними персонажами. Вигадувати історії. Фліртувати. Сперечатися. Грати роль. Можна прийти по розвагу, а лишитися, бо розмова виявилася приємнішою за день, що їй передував.
Тепер у компанії проблеми, а в Disney — угода на 20 мільйонів доларів: ліцензія на певну інтелектуальну власність і певні правові вимоги. До неї входить підтримка на перехідний період; угоду ще має схвалити суд, і її можуть перебити кращі пропозиції. [3]
Двадцять мільйонів доларів.
Так і кортить спитати: Міккі, а що саме ти там знайшов?
Бо в такому сервісі люди можуть залишити дещо значно цікавіше за адресу пошти.
Можливість бути смішними. Прилипливими. Ревнивими. Неймовірно сміливими після півночі. Випробувати фразу, яку ніколи не надіслали б живій людині. Попросити уваги, спершу перевдягнувши прохання в жарт.
Ось вони, твої нюдси.
Такі, для яких навіть светр знімати не треба.
Звісно, не кожна розмова — сповідь. Іноді людина просто хоче здолати дракона, і ставити їй діагноз щодо стосунків із мамою було б неввічливо.
Але коли частина користувачів приносить у чат свої страхи, бажання й способи шукати прихильності, потенційна цінність цього матеріалу виходить далеко за межі «людям подобається листуватися».
Які відповіді не дають розмові згаснути? Які змушують повернутися? Що людина розповість уважному слухачеві?
Щоб зрозуміти таку поведінку, бізнес замовляє дослідження, інтерв’ю та фокус-групи.
А тут людина може просто відкрити застосунок і заговорити.
Іноді — ще й за платною підпискою.
Character.AI прямо називає тексти користувачів і дані про взаємодію серед джерел, на яких розвиває свої моделі. Це не означає, що кожне повідомлення потрапило в навчальний датасет. Але те, що користувачі роблять внесок у технологію, — не художня вигадка. Це написано в документації компанії. [4]
Як мило. Ми думали, що просто розмовляємо. А заразом, можливо, ще й долучалися до розробки.
Ось тут мені дуже кортить написати: «І саме по це прийшла Disney».
І саме тут доводиться притримати власну руку.
На слуханнях 14 жовтня представник Character.AI заявив, що Disney не цікавлять дані користувачів, які непокоїли штати. На той момент не було жодної пропозиції ні щодо даних, ні щодо чинного бізнесу з чат-ботами. [5]
Тож ні, документа, де Міккі замовляє твої нічні зізнання, у мене немає.
Зате є цікавіше питання: що з того, що виросло довкола цих розмов, може пережити самі розмови?
Люди можуть перейти до іншої компанії. Технологію можна ліцензувати. Застосункові потрібен покупець, готовий підтримувати його роботу. Character.AI каже, що платформу згорнуть, якщо слушної пропозиції не знайдеться. [2]
І раптом те, що ми вважали одним продуктом, має кілька різних майбутніх.
Користувач звик до співрозмовника. Покупець обирає активи.
Для угоди — цілком буденно. О третій ночі — трохи несподівано.
А тоді приходить утішна думка: гаразд, я просто видалю розмову.
Видалення може мати значення. Але прибрати збережені повідомлення і прибрати їхній можливий вплив на вже навчену модель — це дві різні технічні задачі.
Ні, ШІ не приречений пам’ятати все довіку. Існують перенавчання й методи машинного «розучування». Але надійно прибрати конкретний вплив і перевірити результат буває складно. Кнопка, що стирає історію чату, сама собою не доводить, що це сталося. [6]
В інструкції Character.AI для користувачів із ЄЕЗ і Великої Британії обіцянка сформульована точно: після відмови новий контент не використовуватимуть для навчання генеративних моделей.
Новий.
Машини часу для давніших розмов це речення не передбачає. [7]
І все ж я не збираюся записувати кожного користувача в жертви, а кожного покупця — в колекціонери чужих таємниць.
Людям такі сервіси можуть подобатися. Продаж технологій може зберегти робочі місця й дати компанії час. Саме лише банкрутство ще не доводить, що хтось повівся непорядно.
Але як же ніжніше індустрія говорить із нами, коли їй потрібна наша участь, ніж тоді, коли нам потрібні пояснення.
Спершу ми спільнота. Творці. Люди, завдяки яким усе це стало можливим.
А потім нам пропонують ознайомитися з подальшими кроками.
Тож питання про нюдси лишається. Відповідь на нього шукати в межах угоди, в умовах використання даних і в рішеннях суду. Білі рукавички мало що доводять.
Скільки заплатив би Міккі Маус? За ліцензію на технології — оголошені 20 мільйонів доларів. Чека за твої нічні розмови мені поки ніхто не показував.
А скільки коштує все, що люди сказали, поки відчували, що їх чують?
Цю ціну я хотіла б побачити окремим рядком.
Бажано до того, як мене знову запросять вивернути душу заради покращення сервісу.