В мире горячо обсуждают стремительное развитие искусственного интеллекта. Погубит он человечество или спасет? Нужно ли поощрять его введение или, наоборот, строго запретить?
Виной споров стал чат-бот ChatGPT, запущенный компанией OpenAI. Этому боту можно задать любой вопрос, поручить любое задание. Он готов услужить вам в любое время дня и ночи, в его распоряжении – вся информация, накопленная в Сети до конца 2021 года.
По словам Сэма Олтмена, генерального директора OpenAI, за пять дней после запуска чат-бота им воспользовался 1 миллион человек. А уже через месяц количество пользователей достигло 100 миллионов.
Для сравнения – социальной сети TikTok потребовалось девять месяцев, чтобы достичь такого же успеха, а Instagram – два с половиной года.
Финансовый холдинг UBS назвал ChatGPT самым быстрорастущим приложением в истории. Искусственный интеллект пишет дипломные работы и получает научные степени, сочинил несколько сотен книг – в общем, все знает и все умеет.
Накал страстей вокруг искусственного интеллекта достиг такого уровня, что тысяча экспертов подписала письмо с призывом остановить разработки мощных систем искусственного интеллекта хотя бы на полгода. Авторы письма напомнили, что системы с искусственным интеллектом, сопоставимым с человеческим, могут представлять серьезные риски для человечества.
Культовые фильмы «Терминатор» и «Матрица», думаю, смотрели все. Письмо также подписали известный бизнесмен Илон Маск и один из основателей компании Apple Стив Возняк.
■ ■ ■
Правда, есть мнение, что авторы письма немного хитрят. Дело в том, что компания OpenAI в разработках искусственного интеллекта обогнала своих конкурентов и вырвалась вперед. Вот конкуренты и просят приостановить разработки, чтобы была возможность догнать OpenAI.
Тот же Илон Маск уже основал свою компанию для разработки искусственного интеллекта.
В любом случае, джин вырвался из бутылки и его уже не остановить. Сейчас разработками искусственного интеллекта будут заниматься все кому не лень. Например, Китай развивает свои программы искусственного интеллекта и не будет обращать внимание ни на какие ограничения.
■ ■ ■
Так действительно ли искусственный интеллект опасен для человечества? Вопрос спорный.
Дело в том, что то, что мы называем искусственным интеллектом, скорее является элементом искусственного интеллекта. Наука на данный момент понятия не имеет, как работает человеческое сознание и как построены мыслительные процессы.
Забавный факт. Первые попытки создать искусственный интеллект были предприняты еще в 50-х годах прошлого века, когда появились первые компьютеры. Тогда исследователи начали с самого простого – со списка характеристик, какими должен обладать искусственный интеллект.
Список получился очень красивый. Но потом один из авторов обратил внимание – постойте, а ведь человек-то этими качествами не обладает. Получается, что человек-то у нас неразумный.
Действительно, сознание человека может быть не только рациональным, но и иррациональным, и как оно работает, остается загадкой до сих пор. И пока не разгадана загадка сознания, не получится создать искусственный интеллект, превосходящий человеческий.
■ ■ ■
Нейронная сеть, как и любой другой алгоритм машинного обучения, по своей сути является лишь математической функцией, и умеет решать лишь поставленную перед ней задачу. Нейросеть, которую учили различать человеческие лица и находить преступников, не сможет отличить медведя от слона, потому что перед ней не ставили такую задачу.
По заявлению авторов ChatGPT, их нейросеть может анализировать чуть ли не триллионы параметров, но тем не менее математическая функция все равно остается математической функцией. И с этой точки зрения развитие искусственного интеллекта является тупиковым – как бы ни увеличивали его эффективность, он все равно не сможет выйти за рамки установленных ограничений, так как не обладает сознанием. Искусственный интеллект не думает, а лишь обрабатывает информацию.
Самый простой способ распознать искусственный интеллект – рассказать ему абстрактный анекдот со скрытым подтекстом и попросить сочинить похожий. Анекдот он вам сочинит – с соблюдением всех правил грамматики, но по содержанию это будет полная чушь. Поэтому искусственный интеллект не знает, как вести себя в нестандартной ситуации и не может создавать новое – делать открытия и изобретения.
■ ■ ■
Один из примеров – автопилоты машин. Еще совсем недавно автопроизводители уверяли, что скоро машины будут управляться искусственным интеллектом. Но в последнее время разговоры на эту тему затихли. По неофициальной информации, тестовые испытания показали, что на дороге случаются нестандарные ситуации, в которых автопилот не знает, как себя вести, и создает аварийные ситуации. Научить машину держать полосу, входить в повороты и автоматически перестраивать маршрут, если на дороге ремонт, сравнительно несложно. Но какая-нибудь новая, непредвиденная ситуация будет для автопилота неразрешимой. Так, в декабре 2021 года Tesla, управляемая роботом, едва не сбила девушку, которая переходила дорогу строго по правилам, то есть по пешеходному переходу и на зеленый сигнал светофора. На видео хорошо видно, как автомобиль лишь слегка притормозил на повороте, однако поехал дальше, совершенно не обратив внимания на начинающего движение пешехода. То есть искусственный интеллект не смог понять, что в этом месте нужно остановиться, потому что не учел сочетания факторов (поворот, пешеход, светофор, разметка), с каждым из которых в отдельности он бы наверняка разобрался. Поэтому можно выдохнуть – восстание машин в ближайшем будущем нам не грозит.
■ ■ ■
Но тем не менее искусственный интеллект все же представляет опасность – потому что это очень мощный инструмент в руках человека. Бояться нужно не искусственного интеллекта, бояться нужно человека, управляющего искусственным интеллектом. Поэтому все так активно и бросились в гонку развития искусственного интеллекта.
Кто будет контролировать искусственный интеллект, тот будет управлять человечеством.
Какие же риски на данный момент представляет искусственный интеллект? Это неспособность принимать решения в нестандартных ситуациях и технологические сбои. Например, из-за несовершенства кода ChatGPT допустил утечку персональных данных нескольких миллионов человек, в том числе и номеров их кредитных карт. Кстати, из-за этого ChatGPT запретили в Италии. А сбой в электронной системе атомной электростанции вообще может привести к техногенной катастрофе. Один из экспертов очень метко заметил – искусственный интеллект, он на самом деле глупый, очень глупый, и при этом он уже нами управляет.
Во-вторых, искусственный интеллект может попасть в руки плохих людей и быть использован в преступных целях. Например, программы искусственного интеллекта позволяют подделывать человеческий голос, чем пользуются мошенники для выманивания денег. И по телефону вы не сможете отличить, что вам звонит мошенник, а не родственник. При помощи искусственного интеллекта можно будет писать вирусы, взламывать пароли. Появится много доселе неизвестных киберпреступлений и мошенничеств.
■ ■ ■
Ну а философы утверждают, что использование искусственного интеллекта может привести к отупению и деградации человечества. Ведь если все сложные операции будет выполнять искусственный интеллект, у человека пропадет стимул думать и развиваться. Например, уже сейчас при повсеместном распространении калькуляторов многие люди не знают таблицы умножения и не способны произвести в уме простейшие арифметические вычисления.
Главная же проблема искусственного интеллекта состоит в том, что он начнет вытеснять людей с рынка труда. Американский инвестиционный банк Goldman Sachs подсчитал, что около 300 миллионов человек по всему миру могут остаться без работы из-за внедрения технологий искусственного интеллекта.
«Рынок труда может столкнуться со значительными потрясениями в ближайшие годы. Проведенный банком анализ рабочих мест в США и Европе показывает, что две трети рабочих мест могут быть автоматизированы», – сообщается в материале.
В статье также поясняется, что некоторые рабочие места пострадают больше, чем другие. Например, работы, требующие большого физического труда, вряд ли будут значительно затронуты. В США самая высокая доля задач, которые можно автоматизировать, приходится на офисные и административные вспомогательные должности: 46%, за ними следуют 44% юридической работы и 37% задач, связанных с архитектурой и проектированием. И главная проблема состоит в том, что современная экономика к этому совершенно не готова – уволенных людей негде будет трудоустроить. Придется вводить полностью новую экономическую модель, менять систему перераспределения доходов.
В итоге можно отметить, что искусственный интеллект к нам уже пришел и тут ничего поделать нельзя. И как он будет использован – на добро или на зло – зависит от самого человечества.
Дмитрий СМИРНОВ, экономист
