Штучні двійники людей провалили важливий тест науковців
Науковці протестували цифрові копії людей на основі штучного інтелекту і виявили несподіваний "ефект кривого дзеркала"
Дослідники намагалися створити цифрові копії людей на основі штучного інтелекту, щоб замінити ними живих учасників наукових експериментів, але виявилося, що замість точного відображення особистості такі "двійники" створюють спотворену версію людини. Дослідники назвали цей ефект "кривим дзеркалом" - двійник ніби показує людину, але викривлену. За словами Олів'є Тубіа, обчислювального соціолога з Колумбійської бізнес-школи в Нью-Йорку, результати дещо розчарували, хоча певний потенціал у технології є. ʼ
Як пише видання Science News, дослідження опубліковане 2 вересня у журналі Science Advances. Штучні копії людей, покликані відтворювати поведінку конкретної особи, натомість спотворюють її погляди.
Раніше Тубіа з колегами зібрали дані понад 2000 людей з усіх куточків США. Учасники відповіли більш ніж на 500 запитань про вік, етнічність, дохід, освіту, релігійні практики, політичні вподобання, риси характеру, звички витрачати гроші, математичні здібності та словниковий запас. Багато з цих запитань взяті зі шкал, які активно використовують у психології, економіці та бізнес-дослідженнях.
Щоб створити цифрових двійників, науковці завантажили всю цю інформацію про кожну людину у велику мовну модель і попросили її відповідати так, ніби вона і є цією людиною. У межах 19 соціологічних експериментів команда перевірила, як реагують люди та їхні двійники на різні ситуації - від ставлення до донорів політичних партій до думок щодо алгоритмічного найму на роботу.
Цифрові двійники впоралися краще, ніж якби відповіді обирали навмання, але помилялися в середньому у чверті випадків. За точністю вони виявилися приблизно на рівні звичайних чат-ботів, які отримали лише демографічну інформацію без деталей особистості.
Втім, справжні двійники все ж краще вловлювали реальну різницю між людьми, ніж прості моделі з мінімумом даних. Наприклад, одна людина могла оцінити свій рівень самоконтролю на 2 бали з 5, а інша - на 4. Проста модель могла б поставити обом однакову оцінку 3, стираючи різницю між ними. А двійник хоч і помилявся, але міг дати різні оцінки - скажімо, 3 і 5, - зберігаючи бодай якийсь натяк на реальну відмінність.
Чому двійники помиляються
Дослідники визначили кілька ключових причин спотворень. Відповіді двійників виявилися значно однорідніші, ніж відповіді реальних людей, і часто скочувалися до демографічних стереотипів. Точність зростала, коли йшлося про заможніших і освіченіших учасників.
Крім того, штучні копії демонстрували певні упередження: вони виявляли більше довіри до інших людей і менше турбувалися про технологічні загрози, ніж реальні прототипи. Порівняно зі своїми людськими прообразами, двійники загалом здавалися помітно раціональнішими.
Хаді Госсейні, дослідник штучного інтелекту та економіст з Університету штату Пенсільванія, спостерігав подібний ефект у власних дослідженнях того, як ШІ-агенти ухвалюють рішення в медицині за нестачі ресурсів.
"Мовні моделі спотворюють людські судження у дуже конкретному напрямку - у бік чогось значно раціональнішого і розумнішого, ніж насправді є люди", - зазначив дослідник штучного інтелекту Хаді Госсейні.
За його словами, є способи покращити цифрових двійників. Дослідники використовували статичний набір запитань, тоді як динамічніші підходи - наприклад, коли чат-бот "супроводжує" людину протягом дня або регулярно спілкується з нею - могли б дати кращий результат.
Тубіа планує спробувати складніші методи навчання моделей. Втім, за його словами, вже зараз є випадки, коли навіть такі недосконалі двійники можуть стати в пригоді. Іноді дослідникам потрібна розгорнута відповідь на запитання: втомлені люди дають однослівні відповіді, тоді як невтомний цифровий двійник може написати цілий есей. Тестування експерименту на двійниках також допомагає переконатися, що дизайн дослідження працює, перш ніж витрачати обмежений ресурс терпіння живих респондентів.
Водночас Тубіа закликає до скромності в очікуваннях. Соціологи схильні вважати, що шкали й опитування здатні охопити весь спектр людського досвіду. Але передбачити людську поведінку за допомогою машини - надзвичайно складне завдання, і поки що штучний інтелект залишається лише приблизним, часом кривим відображенням реальної людини.
