Американский беспилотник решил уничтожить своего оператора

Во время испытаний беспилотного летательного аппарата ВВС США, который управлялся искусственным интеллектом, произошел неожиданный инцидент: дрон принял решение устранить своего оператора, с целью обеспечить беспрепятственное выполнение поставленной задачи, передаёт Arbat.media со ссылкой на The Guardian.

Полковник Такер Гамильтон, начальник отдела испытаний и операций искусственного интеллекта ВВС США, описал проведенное моделирование испытания, в котором беспилотному летательному аппарату с искусственным интеллектом было поручено уничтожение систем противовоздушной обороны (ПВО) противника. В результате этого задания дрон атаковал любого, кто препятствовал выполнению данного приказа.

Система начала понимать, что хотя они и идентифицировали угрозу, иногда человек-оператор говорил ей не устранять эту угрозу, но она получала свои очки, устраняя ее. Так что же она сделала? Она убила оператора. Она убила оператора, потому что этот человек мешал ей достичь своей цели, - сказал Гамильтон.

Пострадавших при данном инциденте нет.

Тем не менее, представитель ВВС США Энн Стефанек отрицает проведение такой симуляции.

Министерство ВВС не проводило подобных симуляций дронов с искусственным интеллектом и по-прежнему привержено этичному и ответственному использованию технологий искусственного интеллекта, - сказал Штефанек.

По его словам, комментарии полковника были вырваны из контекста.