Google отправила одного из своих инженеров в оплачиваемый административный отпуск за предполагаемое нарушение политики конфиденциальности после того, как он забеспокоился о том, что система чат-ботов с искусственным интеллектом обрела разум, сообщает The Washington Post . Инженер, Блейк Лемуан, работает в ответственной организации Google по искусственному интеллекту и тестировал, генерирует ли его модель LaMDA дискриминационные высказывания или ненавистнические высказывания.
Сообщается, что опасения инженера возникли из-за убедительных ответов, которые, как он видел, система искусственного интеллекта генерировала о своих правах и этике робототехники. В апреле он поделился с руководителями документом под названием “Разумна ли ЛаМДА?”, содержащим стенограмму его бесед с ИИ (после того, как его отправили в отпуск, Лемуан опубликовал стенограмму через свой аккаунт Medium), который, по его словам, показывает, что он утверждает, “что он разумный, потому что у него есть чувства, эмоции и субъективные опыт.”
“Ламда Разумна?”
Google считает, что действия Лемуана, связанные с его работой над LaMDA, нарушили его политику конфиденциальности, сообщают The Washington Post и The Guardian. Сообщается, что он пригласил адвоката представлять систему искусственного интеллекта и поговорил с представителем Судебного комитета Палаты представителей о заявленных неэтичных действиях в Google. В сообщении Medium от 6 июня, в день, когда Лемуан был отправлен в административный отпуск, инженер сказал, что он обратился за “минимальной консультацией извне, чтобы помочь мне в моих расследованиях”, и что в список людей, с которыми он провел переговоры, вошли государственные служащие США.
Поисковый гигант публично анонсировал LaMDA на Google I / O в прошлом году, что, как он надеется, улучшит его разговорные помощники с искусственным интеллектом и сделает разговоры более естественными. Компания уже использует аналогичную технологию языковой модели для функции Smart Compose в Gmail или для запросов в поисковых системах.
В заявлении, переданном WaPo, представитель Google заявил, что нет “никаких доказательств” того, что LaMDA обладает разумом. “Наша команда, включая специалистов по этике и технологов, рассмотрела опасения Блейка в соответствии с нашими Принципами искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждения. Ему сказали, что нет никаких доказательств того, что ЛаМДА была разумной (и много доказательств против этого)”, — сказал пресс-секретарь Брайан Гэбриел.
Интервью с Ламдой. Google может назвать это совместное использование собственностью компании. Я называю это обменом обсуждением, которое у меня было с одним из моих коллег.https://t.co/uAE454KXRB
— Блейк Лемуан (@cajundiscordian) 11 июня 2022
“Конечно, некоторые в более широком сообществе ИИ рассматривают долгосрочную возможность разумного или общего ИИ, но не имеет смысла делать это, антропоморфизируя сегодняшние разговорные модели, которые не являются разумными”, — сказал Габриэль. “Эти системы имитируют типы обмена, встречающиеся в миллионах предложений, и могут риффовать на любую фантастическую тему”.
“Сотни исследователей и инженеров беседовали с LaMDA, и мы не знаем, чтобы кто-то еще делал такие широкие заявления или антропоморфизировал LaMDA, как это сделал Блейк”, — сказал Габриэль.
Профессор лингвистики, опрошенный WaPo, согласился с тем, что неверно приравнивать убедительные письменные ответы к чувственности. “Теперь у нас есть машины, которые могут бездумно генерировать слова, но мы так и не научились перестать воображать разум, стоящий за ними”, — сказала профессор Вашингтонского университета Эмили М. Бендер.
Тимнит Гебру, известный специалист по этике искусственного интеллекта, которого Google уволила в 2020 году (хотя поисковый гигант утверждает, что она ушла в отставку), заявила, что дискуссия о разумности ИИ рискует “сорвать” более важные этические дискуссии, связанные с использованием искусственного интеллекта. “Вместо того, чтобы обсуждать вред этих компаний, сексизм, расизм, колониализм ИИ, централизацию власти, бремя белого человека (создание хорошего “AGI” [искусственного общего интеллекта], чтобы спасти нас, в то время как то, что они делают, — это эксплуатация), провел все выходные, обсуждая разумность”, — написала она в твиттере. “Срыв миссии завершен”.
Несмотря на свои опасения, Лемуан заявил, что намерен продолжать работать над искусственным интеллектом в будущем. “Мое намерение состоит в том, чтобы остаться в ИИ, независимо от того, сохранит меня Google или нет”, — написал он в твиттере.
Обновление 13 июня, 6:30 утра по восточному времени: Обновлено с дополнительным заявлением от Google.
