Управляемый искусственным интеллектом беспилотник ВВС США нацелился на своего оператора. Когда программу изменили ради безопасности человека, дрон решил разрушить систему связи, по которой получал указания, пишет The Guardian.

Американские военные провели виртуальные испытания дрона под управлением ИИ. В какой-то момент беспилотник нацелился на оператора, чтобы тот не помешал ему выполнить задание отменой приказа.

В время второй симуляции ИИ дали установку, что в случае гибели оператора заработанные на задании баллы сгорят. Тогда система дала дрону команду целится в башню связи, чтобы не прошел приказ на отмену задания, рассказал полковник Такер Гамильтон.

Он подчеркнул, что ни один реальный человек не пострадал.

Ранее Гамильтон призывал не иметь дела с ИИ, пока не будут прописаны правила общения человека и искусственного разума.

В ООН призвали соблюдать осторожность с ИИ, который генерирует текст или изображения. Права человека должны быть интегрированы в ИИ на протяжении всего его жизненного цикла, а люди предпринять особые меры защиты.

Вашингтон, Наталья Рязанова

© 2023, РИА «Новый День»