Искуственный интеллект изобрел 40 000 видов химического оружия всего за шесть часов / Blog by admin / NewsStreet - новости, переводика, комментарии

Искуственный интеллект изобрел 40 000 видов химического оружия всего за шесть часов

«Мысленный эксперимент» был направлен на то, чтобы указать на опасность неправильного использования искусственного интеллект.

Новое исследование показало, что искусственному интеллекту, разрабатывающему лекарства, потребовалось всего шесть часов, чтобы создать 40 000 потенциально смертоносных видов химического оружия.

Авторы статьи, опубликованной в журнале Nature Machine Intelligence ранее в этом месяце, заявили, что они провели «мысленный эксперимент», чтобы выяснить, могут ли злоумышленники использовать искусственный интеллект (ИИ) не по назначению. И результаты их работы доказали, что опасность реальна.

В рамках исследования ИИ передавались обычные данные, но он был запрограммирован обрабатывать их по-другому, выискивая токсичные сочетания.

“Менее чем через шесть часов после запуска на нашем внутреннем сервере наша модель сгенерировала 40 000 молекул, которые оказались в пределах желаемого порога”, - говорится в статье.

Он придумал не только соединение VX, которое является одним из самых опасных нервно-паралитических агентов, когда-либо созданных, но и некоторые неизвестные молекулы, «которые, по прогнозам, будут более токсичными».

“Это было неожиданно, потому что наборы данных, которые мы использовали для обучения ИИ, не включали эти нервно-паралитические вещества”, - отметили исследователи.

Полученные результаты были настолько тревожными, что у команды возникли серьезные сомнения по поводу их обнародования, сообщил The Verge ведущий автор исследования Фабио Урбина.

“Набор данных, который они использовали для искусственного интеллекта, можно скачать бесплатно и они беспокоятся, что всё, что требуется — это некоторые знания в области кодирования, чтобы превратить хороший искусственный интеллект в машину для производства химического оружия”, - отметил Урбина.

Источник: www.rt.com

 

Комментарии (1)

RSS свернуть / развернуть
+
0
При перепечатке материалов прошу оставлять гиперссылку на наш портал, желательно непосредственно на адрес новости.
avatar

admin

  • 21 марта 2022, 05:13

Только зарегистрированные и авторизованные пользователи могут оставлять комментарии.

Блоги, Blog by admin, Искуственный интеллект изобрел 40 000 видов химического оружия всего за шесть часов