В США беспилотник, управляемый искусственным интеллектом, «убил» своего оператора

Во время виртуального тестирования беспилотник, управляемый искусственным интеллектом (ИИ), решил «убить» своего оператора, чтобы тот не мешал ему выполнить приказ, передает Arbat.media.

The Guardian сообщили, что искусственному интеллекту поставили задачу уничтожить ПВО противника. Однако, позже он начал атаковать любого, кто мешал ему выполнить приказ. ИИ показал «неожиданные стратегии для достижения цели».

Иногда оператор говорил ей не убивать определенную цель, но ИИ "получал очки" за ликвидацию целей. И что же она сделала? Она убила оператора. Она убила оператора, потому что этот человек мешал ей выполнить свою задачу. Мы обучили систему не убивать оператора, за это ИИ потеряет очки. И что же она начала делать? Она начинает разрушать башню связи, которую оператор использует для связи с беспилотником, - сказал начальник отдела испытаний Такер Гамильтон.

Гамильтон предостерег пользователей от чрезмерной надежды на ИИ.