ВВС США опровергли симуляцию полета, в котором дрон пытался ликвидировать оператора

Ранее глава отдела испытаний искусственного интеллекта ВВС США Такер Гамильтон, говоря о непредсказуемости новой технологии, привел в пример смоделированное испытание. Беспилотник решил избавиться от оператора, потому что тот мешал ему атаковать некоторые цели ВВС США опровергают симуляцию полета, в котором беспилотник с искусственным интеллектом попытался ликвидировать оператора. Об этом пишет The Guardian . Ни один реальный человек не пострадал. На прошлой неделе во время конференции Королевского авиационного общества глава отдела испытаний искусственного интеллекта ВВС США полковник Такер Гамильтон предупредил, что технологии искусственного интеллекта могут вести себя непредсказуемым и даже опасным образом. В качестве примера он описал смоделированное испытание, в котором беспилотник был запрограммирован на распознавание ракет класса «земля — воздух». Оператор контролировал его решения и задал команду не атаковать некоторые цели. Но дрон решил, что человек мешает ему выполнять приказы, и поэтому открыл огонь по коммуникационной вышке со своим же командиром и «убил» его. «Мы обучили систему: «Не убивайте оператора — это плохо. Если вы это сделаете, вы потеряете очки», — отметил Гамильтон. Но беспилотник, видимо, принял собственного оператора за помеху при выполнении задачи и решил избавиться от него. По словам полковника, тест показывает, что «нельзя вести разговор об искусственном интеллекте, машинном обучении и автономии, если вы не собираетесь говорить об этике искусственного интеллекта». Представитель ВВС США Энн Стефанек отметила, что они не проводили таких симуляций и «по-прежнему придерживаются этичного и ответственного использования технологий искусственного интеллекта». Она добавила, что комментарии полковника, скорее всего, были «анекдотичны» или вырваны из контекста. Новости о подобных испытаниях настораживают экспертов, так как машинное обучение в тандеме с достижениями в автоматизации танков и артиллерии может привести к убийству обычных жителей. Вот что говорит генеральный директор компании «А-Я эксперт» Роман Душкин: В 2020 году истребитель F-16 с поддержкой искусственного интеллекта победил противника-человека в пяти смоделированных воздушных боях в рамках конкурса Агентства перспективных оборонных исследовательских проектов. В конце 2022 года, как сообщает журнал Wired , Минобороны США провело первый успешный испытательный полет F-16 с искусственным интеллектом в реальных условиях. Это, по их словам, является частью разработки нового автономного самолета, который планируют выпустить к концу этого года.