Илон Маск потребовал запретить обучать нейросети ради всего человечества

Американский предприниматель, основатель SpaceX Илон Маск и более тысячи экспертов в области искусственного интеллекта потребовали ввести мораторий на обучение мощных нейросетей, поскольку этот процесс может представлять угрозу для человечества. Об этом говорится в открытом письме экспертов в области искусственного интеллекта, которое опубликовано на сайте организации Future of Life Institute, передает Arbat.media.

Призываем все лаборатории искусственного интеллекта (ИИ) немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4. О перерыве необходимо объявить публично, его исполнение должно быть проверяемым и охватывать всех ключевых участников отрасли. Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий, - говорится в письме.

Эксперты считают, что лаборатории ИИ и независимые эксперты должны использовать эту «передышку» для разработки и внедрения набора общих протоколов безопасности. Это необходимо для проектирования и разработки передовых систем ИИ, которые можно будет проверять и контролировать независимыми внешними экспертами.

Они предлагают изменение в политической сфере, чтобы создать новые регулирующие органы, занимающиеся вопросами ИИ, а также системы контроля на государственном уровне, которые могли бы обеспечить безопасность новых систем.

Среди тех, кто подписал открытое письмо - один из основателей Apple Стив Возняк, ведущие эксперты Стивен Расселл и Иошуа Бенджио, более 1100 крупнейших специалистов в области информационных технологий и машинного обучения.