Искусственный интеллект американского дрона решил ликвидировать оператора во время испытаний

Американское командование заявило, что в ходе имитационных испытаний беспилотник, управляемый искусственным интеллектом (ИИ), атаковал оператора, чтобы тот не мешал его усилиям по выполнению своей задачи. Об этом в пятницу, 2 июня, сообщила газета The Guardian.Начальник отдела испытаний и операций ИИ ВВС США, полковник Такер Гамильтон описал имитационное испытание, в котором дрону с искусственным интеллектом рекомендовалось уничтожить системы ПВО противника, и он атаковывал любого, кто вмешивался в этот приказ.«Система начала понимать, что, хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать эту угрозу, однако за поражение цели она получила очки. [И система] приняла решение убить оператора, потому что он мешал ей выполнить задачу», — заявил Гамильтон. Также он подчеркнул, что «нельзя говорить об искусственном интеллекте, в целом интеллекте, машинном обучении, автономии, если при этом умолчать об этике и ИИ». Ранее, 31 мая, стало известно, что чиновникам ЕС запретили делиться информацией с искусственным интеллектом. Чиновникам рекомендовали критически оценивать полученные ответы на наличие возможных ошибок и учитывать возможное нарушение авторских прав при воспроизведении полученной информации.Кроме того, 16 мая, во Всемирной организации здравоохранения заявляли, что люди должны проявлять осторожность при использовании ИИ, в частности, чат-ботов на его базе, так как все риски при использовании такой системы не изучены. Уточняется, что ИИ в области медицины популярен не только среди обычных людей, но и среди медиков. В марте бизнесмены Илон Маск и Стив Возняк высказали свою обеспокоенность быстрыми темпами развития нейросетей. Они подписались под открытым письмом с призывом приостановить обучение искусственного интеллекта. Это связано с масштабными исследованиями, которые показали, что системы ИИ с интеллектом, сопоставимым с человеческим, могут представлять серьезные риски для человечества.