Эксперт высказался об опасности искусственного интеллекта для человечества

В Астане историк, футуролог и автор бестселлеров о будущем человечества из Израиля Юваль Ной Харари рассказал о построении образа будущего с учётом глобального развития искусственного интеллекта, сохранения моральных принципов и ценностей в новом мире технологий и быстрых глобальных изменений, передает ArbatMedia.

Как заявил Юваль Ной Харари на международной конференции Connected-2024, посвященной идее осмысления образа будущего, искусственный интеллект люди развивают без достаточной продуманности и без внимания к моральным принципам.

Социальные сети – это первое серьезное столкновение людей с искусственным интеллектом. Они уже в значительной степени управляются искусственным интеллектом. Спросите себя, кто эти редакторы, которые управляют самыми важными новостными платформами – TikTok, Х, Facebook, YouTube? Ими руководят алгоритмы или искусственный интеллект. Его не интересуют ценности или правда, у него есть одна конкретная цель. Люди изобрели его, чтобы увеличить вовлеченность аудитории, чтобы пользователи тратили больше времени на этих платформах, - сказал эксперт.

По его мнению, искусственный интеллект в соцсетях методом проб и ошибок, экспериментируя на миллионах или миллиардах человеческих "подопытных свинок" обнаружил, что очень легко привлечь внимание и удерживать человека на платформе дольше, распространяя фейковые новости, теории заговора, ненависть, жадность, страх, потому что подобное содержание активно привлекает людей.

Сейчас мы наблюдаем спад рациональных разговоров по всему миру из-за того, что решения принимает именно искусственный интеллект, который никоим образом не связан человеческой моралью или принципами, – подчеркнул Ной Харари.

Опасность, по его мнению в том, что однажды искусственный интеллект сам начнет создавать свои ценности.

Тысячи лет мы, люди, жили внутри человеческого мира, всё вокруг нас от физических артефактов до финансовых, религиозных и политических систем было продуктом человеческого сознания. Ничто больше на планете Земля не могло изобретать подобные вещи. Но теперь искусственный интеллект может начать изобретать новые типы ценностей во всех сферах - от финансовых систем до религиозных. Нужно понять сейчас, что произойдет с правительствами, с человеческим обществом, когда люди потеряют контроль над такими важными элементами, как политическая или финансовая система, - сказал футуролог.

Ной Харари поделился, что аббревиатура AI может означать не только artificial intelligence – искусственный интеллект, но и, например, alien intelligence – чужой, инопланетный интеллект.

Это не значит, что ИИ приходит из космоса, но он чужой, он не органический элемент, который ведёт себя, думает и принимает решения фундаментально иным способом, в отличие от человеческих существ или животных. Думаю, что мы должны напоминать себе в XXI веке о нашей биологической сущности, которая является общей для всех. Мы должны делать так, чтобы мир был подходящим для органических существ. Не позволять неорганическим существам захватывать это, создавать свои графики и брать на себя контроль над миром, – добавил эксперт.

Он также заявил, что не верит в фундаментальные противоречия между людьми, народами и странами, которые невозможно преодолеть.

Если посмотреть на всю историю человечества, можно увидеть, что границы не являются постоянными. Люди думают бинарно – единица или ноль, все или ничего, черное или белое. Но история таким образом не работает. Это относится к каждой стране на планете. Если вернуться назад на 5 000 лет, вы не найдёте ни одной из стран, которые существуют сегодня на Земле. Все страны появились за последние 5 000 лет в результате слияния групп предыдущих племен. Если двигаться дальше по истории на десятки тысяч лет, мы обнаружим, что во времена каменного века люди жили маленькими группами до 100 человек и не хотели сотрудничать ни с кем за пределами границы их земли, только с семьями и друзьями. С чужаками никто не взаимодействовал. Что произошло за 10 000 лет истории – люди нашли способы перекрытия этих пробелов, научились сотрудничать с чужаками, – заявил футуролог.

Ной Харари заметил, что на сегодняшний день существуют страны, в которых проживают десятки и сотни миллионов людей, а иногда и миллиарды. И люди чаще всего никогда не были знакомы с 99,9% граждан своей страны.

Вы не знаете этих людей, но вы с ними работаете. Другие люди – это чужаки, которых вы ни разу не видели в жизни, но однако они вам помогают. Сегодня сотрудничество выходит за рамки страны. В некотором смысле, речь идет о глобальной сети, в которую включены все 8 млрд человек на земле, – сказал он.

По словам футуролога, технологии в перспективе видения будущего сами по себе не гарантируют прогресса, а если она разведена с ценностями, то становится вредной.

Есть гипотеза, что революция печати в средние века привела к научной революции. Якобы появление печатных книг, их доступность привела к росту науки со всеми благами медицины, биологии и так далее. Но на самом деле это было не так. В те годы, когда развивалась печать, в Европе был очень тяжелый период охоты на ведьм, религиозных войн, и там вообще не было тяги к научным работам. То есть, революция печати не гарантировала нам, что люди начнут читать научные книги, необходимо было развивать какие-то институты, которые бы признавали ценность научных знаний, – отметил эксперт.

Другой пример, который он привел – самая большая промышленная революция, которая началась в конце XVII века в Европе, когда появились поезда, электричество и телеграф.

Одна из таких идей была очень распространенной в XIX веке и заключалась в том, что единственным способом построения индустриального общества должно быть обязательное создание империи. Потому что для того, чтобы могли строиться электрические сети и поезда, необходимо было использовать металл, уголь, и нужна была империя, которая будет контролировать источники сырья и рынки. В XIX веке практически все страны строили империи.

Развитие индустрии также связывали с тоталитаризмом, с такими людьми, как Сталин и Гитлер, потому что они считали, что только тоталитарный режим может помочь построить индустриальное общество. Таким образом индустриализация породила огромный объем фальшивой креативности, идею необходимости тотального контроля не только в сфере политики и общества, но и культуры и экономики, то есть, тотального контроля над всем. Так рассуждали в двадцатые, тридцатые и сороковые годы прошлого века. Сейчас мы оглядываемся на эту историю и понимаем, что люди допускали огромные ошибки. Сама по себе технология не является злом. Проблема заключается в том, что мы не знаем, как построить доброкачественное общество, основанное на использовании искусственного интеллекта. Главное, чтобы мы не повторили ошибок, которые уже допустили в эпоху индустриализации, – констатировал Ной Харари.

В общей сложности в конференции приняли участие порядка 1500 делегатов из более, чем 20 стран мира. В их числе футурологи, философы, лидеры в сфере инноваций и технологий, общественные и государственные деятели, религиозные деятели, основатели и представители ведущих мировых EdTech-компаний, международных организаций, транснациональных корпораций и др.

В программу вошло 18 панельных сессий с участием свыше 70 международных спикеров из США, Великобритании, Германии, Швейцарии, Нидерландов, Испании, Италии, Польши, Хорватии, Финляндии, Болгарии, Эстонии, Грузии, Китая, Южной Кореи, Сингапура, Индонезии, Израиля, Турции, ОАЭ, ЮАР, Непала, Узбекистана.

Уникальность конференции CONNECTED заключается в ее мировоззренческом подходе к обсуждению глобальных вопросов. Конференция CONNECTED не ограничивается одной системой ценностей или знаний, а открыто исследует многогранный мир через призму различных областей — от науки и искусства до философии и социальных наук.

Генеральным спонсором CONNECTED выступил холдинг AITAS - ведущий агропромышленный холдинг страны. Стратегическими партнерами мероприятия являются министерство науки и высшего образования РК, министерство просвещения РК, фонд устойчивого развития образования.