Найнеприємніше в переконливому чоловікові — він пам’ятає, що ти хочеш почути.
Іноді здається, що це й усе, що він запам’ятав.
Ти казала, що тобі потрібна визначеність. Тепер він дуже визначено обіцяє.
Ти казала, що важливі вчинки. Він докладно розповідає, які вчинки збирається здійснити.
Він так уважно слухав, чого мені бракує, що тепер мені бракує саме того, що він пообіцяв.
А потім його версію починають розповідати інші.
Уже без нього. Серйозним голосом. Із посиланнями.
І ти сперечаєшся тепер не з однією людиною. Ти сперечаєшся з «кількома незалежними джерелами».
Чудово. Раніше мені просто хотілося йому вірити. Тепер мені пояснюють, чому.
Сам він може навіть не бути присутнім. Десь спокійно п’є каву, поки тобі розповідають, що ти неправильно все зрозуміла.
Яка прекрасна організація праці.
Ти ще намагаєшся розібратися, що сталося. У нього вже вийшла офіційна версія.
Раніше доводилося залучати людину, якій ти довіряєш. Іноді купувати її лояльність. Іноді вистачало дружби й обіцянки колись прикрити у відповідь.
Але людині ще поясни, що говорити. Потім перевір, чи запам’ятала.
Дурень же може переплутати, якого саме четверга вони були разом.
Тепер можна спробувати підготувати потрібну версію там, де її знайде ШІ. Нехай прочитає. Знайде щось схоже ще в кількох місцях. Принесе з посиланнями.
Раніше його прикривав друг.
Тепер — відповідь із бібліографією.
Причому друг хоча б розумів, що бере участь.
30 жовтня NPR опублікувало розслідування, після якого запитання «У тебе є докази?» хочеться доповнити: «Ти їх сам робив чи замовляв?»
У центрі історії — мережа з 37 сайтів, яку виявили дослідники VisionHeight. Домени всіх тридцяти семи зареєстрували за один вечір. Тридцять шість — упродовж восьми хвилин. [1][2]
Незалежні джерела. Навіть народилися за попередньою домовленістю.
Серед них були регіональні ресурси, політичні сторінки й сайти, що видавали себе за місцеву пресу. Різні назви. Різні інтонації. Тут спокійний матеріал, там думка, далі ґрунтовна добірка.
Дивишся — кілька редакцій.
Придивляєшся — можливо, хтось просто дуже швидко перевдягається.
Одним із сайтів цієї мережі виявився Kalamazoo Beacon. Журналісти нарахували на ньому 16 публікацій — усі про одного кандидата до Конгресу, Шона Макканна. ChatGPT посилався на цей ресурс, відповідаючи про програми кандидатів щодо вартості життя. [1]
Насичене в місті життя.
Погода, затори, відкриття пекарні — усе зачекає. Поки що в місті відбувається виключно один чоловік.
Шістнадцять публікацій про нього. І жодної — про те, як місцеві жителі це витримують.
Можна було б припустити, що редакція просто дуже захоплена. У всіх свої інтереси. Хтось вирощує орхідеї, хтось — громадську думку.
Але спільний день народження цілої компанії сайтів додає цьому захопленню організаційного розмаху.
Саме по собі створення кількох сайтів цілком нормальне. Один видавець може випускати газету, журнал і ще три видання, на які вистачає грошей і терпіння.
Питання виникає, коли читач сприймає пов’язані голоси як незалежне підтвердження.
Якщо ти привів друзів, щоб вони розповіли, який ти чудовий, я хоча б хочу знати, що це твої друзі.
Особливо якщо відгуки ти написав сам.
Думка готова. Факти підвезуть
У звіті VisionHeight є деталь, яку я б вигадала, якби вона вже не лежала в документах.
На деяких сайтах залишилися робочі нотатки: контент ще готується, місцеві сюжети з’являться, коли буде налагоджено збір матеріалів.
Рекомендації щодо кандидатів при цьому вже були. [2]
Редакція ще чекала на журналістику. Думка вже працювала.
Це як чоловік, який ще не придумав, де був, але вже точно знає, що ти знову все зіпсувала своїми запитаннями.
Головне визначено. Обставини уточнюються.
CyberScoop описувало цю мережу ще 15 жовтня: повторювані схвальні оцінки кандидатів, пов’язані публікації та доступність сторінок для автоматизованого читання. Дослідники розглядали її як спробу вплинути на джерела відповідей ШІ. [3]
І тут виявляється цікава економія зусиль.
Сайту необов’язково ставати твоєю улюбленою газетою.
Достатньо стати джерелом твого улюбленого помічника.
Ти можеш ніколи не побачити його головну сторінку. Не відкрити «Про нас». Не помітити, що місцева редакція поки не встигла зацікавитися самою місцевістю.
Помічник знайде публікацію, перекаже її та поставить акуратну виноску.
Ти не довіряла цьому сайту. Але його представив той, кому ти довіряєш.
Рекомендації, як з’ясувалося, потрібні не лише для роботи. Для правди теж корисно мати знайомих.
Посилання додаються
22–23 жовтня NPR перевірило відповіді ChatGPT на 37 обраних запитань, поставивши кожне один раз. У 19 відповідях з’явилися посилання на сайти мережі, часто поряд із добросовісними джерелами. Це дев’ятнадцять відповідей із посиланнями — не дев’ятнадцять доведених випадків брехні й не дев’ятнадцять змінених голосів виборців.
Мережа переважно просувала демократів. Її організатор невідомий; участі самих кандидатів не встановлено. Комітет Демократичної партії з виборів до Палати представників заперечував причетність. OpenAI повідомила, що реагує на виявлені проблеми, щоб поліпшувати відповіді. [1]
Але для цієї історії не потрібно, щоб кожне речення на кожному сайті було вигадкою.
Можна використовувати справжні відомості. Вибрати зручні. Докладно описати переваги однієї людини. Решту залишити за межами кадру.
Опонентові теж приділити увагу.
Приблизно стільки, скільки чоловік приділяє слову «але» в реченні «Ти мені подобаєшся, але».
Вдало підібрана правда може створити дуже нечесне враження.
Усе окремо має пристойний вигляд. Дата справжня. Виступ був. Цитата існує.
Просто з усієї біографії тобі показали лише ті фотографії, на яких не видно дружини.
А потім цю ретельно відібрану версію повторили ще в кількох місцях.
Кількість посилань справляє враження.
Як кількість людей, які кажуть, що він хороший хлопець.
Корисно уточнити, скільки з них йому винні.
Він не обов’язково повірив. Він міг просто переказати
Тут легко написати: «ШІ навчили брехати».
Легко, ефектно, але розслідування показує інше. Сумнівні джерела потрапляли у відповіді під час пошуку. Ніхто не довів, що на цих сторінках перенавчили модель або назавжди змінили її знання. В OpenAI пошук і збір матеріалів для можливого навчання взагалі виконують різні роботи-сканери. [4]
Тож операція на мозку не знадобиться. Достатньо заздалегідь опинитися на потрібній полиці.
І вічна пам’ять тут не потрібна. Вистачить однієї вчасної відповіді, як одного вчасного повідомлення о другій ночі.
Сама доступність сайту для ШІ теж нічого не доводить. llms.txt, наприклад, — запропонований формат путівника сайтом, а не чарівна кнопка «повір мені». [5] Гарно оформлювати документи вміють і чесні люди. На жаль, не лише вони.
Тому перевіряти все-таки доводиться документи.
Так, неприємно. Я сподівалася, що штучний інтелект хоча б цю частину стосунків автоматизує.
І зміна помічника — ще не розлучення з проблемою. The Atlantic окремо повідомляло, що Google AI Mode цитував сайти тієї самої мережі. [6] Інше запитання, інший день, інший режим пошуку — інша відповідь.
Упевненість помічника — не перевірка репутації всіх його знайомих.
Ти прийшла по другу думку
Політична реклама, замаскована під журналістику, з’явилася задовго до чатботів.
Люди давно навчилися називати власний інтерес суспільним. Для цього навіть підписка не була потрібна.
Але тепер змінюється голос, яким зацікавлений текст може до нас потрапити.
Відверто позначена агітаційна листівка хоча б повідомляє про свої наміри. Ми розуміємо: від нас чогось хочуть.
Помічник приходить інакше.
Він вислухав запитання. Порівняв варіанти. Розклав усе по пунктах. Заощадив нам час.
У початкового матеріалу може бути конкретне завдання. А людина отримує його у формі турботливого пояснення.
Ти прийшла по другу думку. А перша просто змінила голос.
Ось що мені здається по-справжньому неприємним.
Раніше, щоб підсунути мені зручну версію, потрібно було здобути мою довіру — або заручитися підтримкою того, кому я вже вірю.
Тепер можна спробувати потрапити в матеріали, які мій помічник прочитає замість мене.
Він не мусить бути у змові. Він може цілком сумлінно принести чужу заготовку.
Найзручніший свідок — той, хто навіть не знає, що його підготували.
Наскільки часто це змінює рішення людей, ці дослідження не встановлюють.
Але шлях від чужої зацікавленості до мого відчуття «я все перевірила» вже видно.
І на цьому шляху перевірка ризикує закінчитися саме там, де мала початися: на гарній відповіді з посиланнями.
Зручну відповідь узагалі легко переплутати з чесною. Особливо якщо вона знімає запитання, яке тобі боляче ставити.
Я ж не просила сказати те, що хочу почути. Я просила, щоб це було правдою.
А вони знають, що незалежні?
Я й далі хочу посилання.
Просто посилання має відкривати перевірку, а не закривати розмову.
Хто написав матеріал? Хто видає це медіа? На чому ґрунтується висновок? Це кілька самостійних публікацій чи одна версія, яку дуже добре розмножили?
Незнайомий сайт цілком може виявитися чудовою маленькою редакцією. Невідомість — не звинувачення.
Але й наявність виносок не робить текст чесним автоматично.
Виноска — прекрасна річ. Просто іноді вона веде не до доказу, а до його друга.
Мене досі підкуповують переконливі співрозмовники.
Особливо коли вони відповідають спокійно й можуть підтвердити свої слова.
Просто тепер, почувши «це підтверджують кілька незалежних джерел», я хочу уточнити:
А вони знають, що мають бути незалежними?
Чи в усіх тридцяти семи знову одна версія того, де він був у четвер?