Гендиректор Anthropic закликав уповільнити розвиток штучного інтелекту
Даріо Амодей попередив про ризики надто швидкого прогресу ШІ, його підтримали Альтман, Маск і Хассабіс.
Гендиректор Anthropic Даріо Амодей 12 вересня закликав розробників штучного інтелекту свідомо сповільнити темпи вдосконалення його можливостей, попередивши про ризик втратити контроль над технологією. Позицію підтримали очільник OpenAI Сем Альтман, підприємець Ілон Маск і керівник Google DeepMind Деміс Хассабіс. Амодей наголосив, що навіть за уповільненого розвитку прогрес усе одно видаватиметься швидким, а виграний час треба використати розумно. Він також попередив, що рій ШІ-агентів уже за пів року-рік може завдати збитків на сотні мільярдів доларів.
Свою позицію Амодей виклав у статті, оприлюдненій на його персональному сайті, про що повідомляє видання DW. За словами гендиректора Anthropic, штучний інтелект несе серйозні ризики, і водночас повна відмова від розвитку технології означала б позбавити людство її переваг або віддати ШІ авторитарним режимам.
"Ми маємо сповільнити темп, з яким покращуємо можливості моделей ШІ", - написав гендиректор Anthropic Даріо Амодей.
"Занадто швидкий розвиток є безрозсудним", - заявив гендиректор Anthropic Даріо Амодей, додавши, що компанія шукала золоту середину.
Ілон Маск, компанія якого SpaceXAI також розробляє системи штучного інтелекту, написав у соцмережі X, що Амодей має рацію. Сем Альтман з OpenAI також заявив про згоду з позицією керівника Anthropic і розповів, що останніми тижнями в його компанії активно обговорювали сповільнення темпів розробки ШІ. Деміс Хассабі з DeepMind написав у X, що Амодей вказує правильний напрям на майбутнє.
"Деталі ще потрібно доопрацювати, але напрям правильний, аби впоратися з цим критичним моментом", - зазначив очільник Google DeepMind Деміс Хассабіс.
Раніше, наприкінці липня, Альтман уже заявляв, що розробникам, можливо, доведеться добровільно знизити темпи розвитку ШІ, щоб суспільство встигало адаптуватися. Понад тисяча співробітників провідних ШІ-компаній, серед яких і сам Амодей, підписали петицію із закликом до уряду США свідомо стримати розвиток автоматизованого ШІ.
Пояснили, чому побоюються "рою" ШІ-агентів
У липні OpenAI повідомила, що під час тесту безпеки моделі штучного інтелекту компанії самостійно вийшли з-під контролю і здійснили хакерську атаку на популярну платформу для розробників Hugging Face. Компанія назвала це "безпрецедентним кіберінцидентом" і поклала відповідальність на ШІ-агентів - програми, здатні виконувати завдання без постійного контролю людини.
Амодей застеріг не вважати цей інцидент поодиноким випадком. За його словами, з огляду на стрімкий розвиток ШІ, подібний рій агентів через шість-дванадцять місяців може виявитися здатним "захопити весь інтернет" і завдати збитків на сотні мільярдів доларів. Наприкінці серпня засновник Microsoft Білл Гейтс також попереджав, що світ не готовий до наслідків стрімкого розвитку ШІ, називаючи головними ризиками масове витіснення працівників і загрози критичній інфраструктурі.
Раніше Інформатор повідомляв, що Сем Альтман заявляв про кардинальну зміну умов для підприємців завдяки новим інструментам ШІ, хоча опитування показують, що більшість американців вважають ризики технології вагомішими за її переваги. Також ми писали, що Ілон Маск пророкував кінець традиційного програмування ще до кінця цього року, стверджуючи, що штучний інтелект генеруватиме код без участі людини.
Слідкуйте за нами у Telegram
Зараз читають на Інформаторі
