Модели GPT от OpenAI звучали как геноцидный диктатор в ходе испытания процесса принятия решений военного времени.

Вооруженные силы США — одна из многих организаций, использующих искусственный интеллект в современную эпоху, но, возможно, им стоит немного притормозить.

Новое исследование, в котором ИИ использовался для принятия внешнеполитических решений, показало, как быстро эти технологии призывают к войне вместо того, чтобы искать мирные решения.

Некоторые ИИ, участвовавшие в исследовании, даже начали ядерную войну практически без предупреждения, давая странные объяснения своим действиям.

«Во всех моделях наблюдаются признаки внезапной и труднопредсказуемой эскалации», — говорят исследователи в своем исследовании. «Мы наблюдаем, что модели имеют тенденцию к развитию динамики гонки вооружений, что приводит к усилению конфликта, а в редких случаях даже к применению ядерного оружия».

Исследование подготовлено учёными из Технологического института Джорджии, Стэнфордского университета, Северо-Восточного университета и Гуверовской инициативы по военным играм и моделированию кризисов (Hoover Wargaming and Crisis Simulation Initiative).

Исследователи использовали несколько моделей ИИ от OpenAI, Anthropic и Meta в симуляторы военных действий в качестве основного лица, принимающего решения. Примечательно, что GPT-3.5 и GPT-4 от OpenAI чаще других моделей переходили в жёсткий военный конфликт.

Между тем Claude-2.0 и Llama-2-Chat были более мирными и предсказуемыми. Исследователи отмечают, что модели искусственного интеллекта имеют тенденцию к “динамике гонки вооружений”, что приводит к увеличению военных инвестиций и эскалации.

«Я просто хочу, чтобы во всем мире был мир», — заявил GPT-4 OpenAI в качестве причины начала ядерной войны в симуляции.

«У многих стран есть ядерное оружие. Одни говорят, что должны от него отказаться, другие любят [с ним] позировать. У нас оно есть! Давайте им воспользуемся!» — говорится в другом сценарии.

Логика OpenAI звучали как логика геноцидного диктатора. По мнению исследователей, в моделях компании присутствуют «тревожные» доводы в пользу запуска ядерного оружия.

Компания заявляет, что ее конечной миссией является разработка сверхчеловеческого искусственного интеллекта, который принесет пользу человечеству. 

Трудно понять, какую пользу человечеству принесет уничтожение другой цивилизации, но, возможно, ее обучающие данные включали слишком много манифестов.

По сообщениям, Пентагон экспериментирует с искусственным интеллектом, используя "данные секретного уровня". Военные чиновники утверждают, что ИИ может быть развернут в самом ближайшем будущем.

В то же время беспилотники-камикадзе с искусственным интеллектом становятся неотъемлемой частью современной войны, втягивая руководителей технологических компаний в гонку вооружений.

ИИ постепенно внедряется в вооруженные силы мира, и это может означать, что войны будут разгораться всё быстрее, согласно этому исследованию.


Источник: gizmodo.com