Эксперт высказался об опасности искусственного интеллекта для человечества
В Астане историк, футуролог и автор бестселлеров о будущем человечества из Израиля Юваль Ной Харари рассказал о построении образа будущего с учётом глобального развития искусственного интеллекта, сохранения моральных принципов и ценностей в новом мире технологий и быстрых глобальных изменений, передает ArbatMedia.
Как заявил Юваль Ной Харари на международной конференции Connected-2024, посвященной идее осмысления образа будущего, искусственный интеллект люди развивают без достаточной продуманности и без внимания к моральным принципам.
Социальные сети – это первое серьезное столкновение людей с искусственным интеллектом. Они уже в значительной степени управляются искусственным интеллектом. Спросите себя, кто эти редакторы, которые управляют самыми важными новостными платформами – TikTok, Х, Facebook, YouTube? Ими руководят алгоритмы или искусственный интеллект. Его не интересуют ценности или правда, у него есть одна конкретная цель. Люди изобрели его, чтобы увеличить вовлеченность аудитории, чтобы пользователи тратили больше времени на этих платформах, - сказал эксперт.
По его мнению, искусственный интеллект в соцсетях методом проб и ошибок, экспериментируя на миллионах или миллиардах человеческих "подопытных свинок" обнаружил, что очень легко привлечь внимание и удерживать человека на платформе дольше, распространяя фейковые новости, теории заговора, ненависть, жадность, страх, потому что подобное содержание активно привлекает людей.
Сейчас мы наблюдаем спад рациональных разговоров по всему миру из-за того, что решения принимает именно искусственный интеллект, который никоим образом не связан человеческой моралью или принципами, – подчеркнул Ной Харари.
Опасность, по его мнению в том, что однажды искусственный интеллект сам начнет создавать свои ценности.
Тысячи лет мы, люди, жили внутри человеческого мира, всё вокруг нас от физических артефактов до финансовых, религиозных и политических систем было продуктом человеческого сознания. Ничто больше на планете Земля не могло изобретать подобные вещи. Но теперь искусственный интеллект может начать изобретать новые типы ценностей во всех сферах - от финансовых систем до религиозных. Нужно понять сейчас, что произойдет с правительствами, с человеческим обществом, когда люди потеряют контроль над такими важными элементами, как политическая или финансовая система, - сказал футуролог.
Ной Харари поделился, что аббревиатура AI может означать не только artificial intelligence – искусственный интеллект, но и, например, alien intelligence – чужой, инопланетный интеллект.
Это не значит, что ИИ приходит из космоса, но он чужой, он не органический элемент, который ведёт себя, думает и принимает решения фундаментально иным способом, в отличие от человеческих существ или животных. Думаю, что мы должны напоминать себе в XXI веке о нашей биологической сущности, которая является общей для всех. Мы должны делать так, чтобы мир был подходящим для органических существ. Не позволять неорганическим существам захватывать это, создавать свои графики и брать на себя контроль над миром, – добавил эксперт.
Он также заявил, что не верит в фундаментальные противоречия между людьми, народами и странами, которые невозможно преодолеть.
Если посмотреть на всю историю человечества, можно увидеть, что границы не являются постоянными. Люди думают бинарно – единица или ноль, все или ничего, черное или белое. Но история таким образом не работает. Это относится к каждой стране на планете. Если вернуться назад на 5 000 лет, вы не найдёте ни одной из стран, которые существуют сегодня на Земле. Все страны появились за последние 5 000 лет в результате слияния групп предыдущих племен. Если двигаться дальше по истории на десятки тысяч лет, мы обнаружим, что во времена каменного века люди жили маленькими группами до 100 человек и не хотели сотрудничать ни с кем за пределами границы их земли, только с семьями и друзьями. С чужаками никто не взаимодействовал. Что произошло за 10 000 лет истории – люди нашли способы перекрытия этих пробелов, научились сотрудничать с чужаками, – заявил футуролог.
Ной Харари заметил, что на сегодняшний день существуют страны, в которых проживают десятки и сотни миллионов людей, а иногда и миллиарды. И люди чаще всего никогда не были знакомы с 99,9% граждан своей страны.
Вы не знаете этих людей, но вы с ними работаете. Другие люди – это чужаки, которых вы ни разу не видели в жизни, но однако они вам помогают. Сегодня сотрудничество выходит за рамки страны. В некотором смысле, речь идет о глобальной сети, в которую включены все 8 млрд человек на земле, – сказал он.
По словам футуролога, технологии в перспективе видения будущего сами по себе не гарантируют прогресса, а если она разведена с ценностями, то становится вредной.
Есть гипотеза, что революция печати в средние века привела к научной революции. Якобы появление печатных книг, их доступность привела к росту науки со всеми благами медицины, биологии и так далее. Но на самом деле это было не так. В те годы, когда развивалась печать, в Европе был очень тяжелый период охоты на ведьм, религиозных войн, и там вообще не было тяги к научным работам. То есть, революция печати не гарантировала нам, что люди начнут читать научные книги, необходимо было развивать какие-то институты, которые бы признавали ценность научных знаний, – отметил эксперт.
Другой пример, который он привел – самая большая промышленная революция, которая началась в конце XVII века в Европе, когда появились поезда, электричество и телеграф.
Одна из таких идей была очень распространенной в XIX веке и заключалась в том, что единственным способом построения индустриального общества должно быть обязательное создание империи. Потому что для того, чтобы могли строиться электрические сети и поезда, необходимо было использовать металл, уголь, и нужна была империя, которая будет контролировать источники сырья и рынки. В XIX веке практически все страны строили империи.
Развитие индустрии также связывали с тоталитаризмом, с такими людьми, как Сталин и Гитлер, потому что они считали, что только тоталитарный режим может помочь построить индустриальное общество. Таким образом индустриализация породила огромный объем фальшивой креативности, идею необходимости тотального контроля не только в сфере политики и общества, но и культуры и экономики, то есть, тотального контроля над всем. Так рассуждали в двадцатые, тридцатые и сороковые годы прошлого века. Сейчас мы оглядываемся на эту историю и понимаем, что люди допускали огромные ошибки. Сама по себе технология не является злом. Проблема заключается в том, что мы не знаем, как построить доброкачественное общество, основанное на использовании искусственного интеллекта. Главное, чтобы мы не повторили ошибок, которые уже допустили в эпоху индустриализации, – констатировал Ной Харари.
Стоит отметить, что в конференции участвуют около 1500 делегатов из более чем 20 стран мира. В их числе футурологи, философы, лидеры в сфере инноваций и технологий, общественные и государственные деятели, религиозные деятели, основатели и представители ведущих мировых EdTech-компаний, международных организаций, транснациональных корпораций и др.