Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами - Руслан Геннадьевич Юсуфов
К примеру, одна из проблем, связанных с искусственным интеллектом, заключается в том, что он может создавать контент, не осмысляя его содержание, и переводить, не пользуясь языком. В результате таких манипуляций мы получаем изменившееся до неузнаваемости инфополе. К созданному людьми информационному мусору и спаму, которые хотя бы сигнализируют о настроениях, добавляются бесконечно генерируемые массивы информации, полные искажений и ошибок.
По оценкам ученых, больше половины текстов в интернете – результат машинного перевода, который подвержен влиянию человеческих предубеждений и смещается в сторону языков западного мира. Например, языки Африки не имеют достаточных объемов обучающих данных, из-за чего качество переводов сильно различается. Насколько ценным источником станет интернет, если большая часть информации в нем будет написана не лучшими представителями больших языковых моделей от разных корпораций? Как поменяется глубина мышления человека в результате таких изменений?
Вторая проблема связана со сложностью ИИ, высокой вычислительной мощностью и энергоемкостью. Сильный искусственный интеллект требует огромных объемов данных, высококвалифицированных специалистов и мощных процессоров для обучения и функционирования. Подобные инновации завязаны на развитие сопутствующих индустрий и сферы образования, а также высокие капитальные и эксплуатационные расходы.
Наконец, перед человечеством встают этические вызовы. Непредсказуемое поведение сильного ИИ может привести к принятию им вредных для человека решений, обману или оскорбительному контенту. В одном из экспериментов компании Anthropic ученые научили ИИ пакостить, а потом не смогли обернуть это вспять: вредоносное поведение моделей сохранилось даже после специального дообучения.
Другая проблема связана с природой данных, на которых обучается ИИ. Компания, разрабатывающая искусственный интеллект, скупает контент, создаваемый пользователями социальной сети Reddit, на сумму $60 млн в год. Где гарантии, что в этом контенте нет человеческих предубеждений по тем или иным вопросам? Как будет вести себя обученный на такой выборке ИИ? И какие критические ошибки он может совершить?
Кроме того, более высокая эффективность искусственного интеллекта неизбежно повлечет вымывание человека из бизнес-процессов, приводя к стремительному устареванию множества профессий. Угроза безработицы для людей увеличивается тем, что сильный ИИ овладеет новой профессией за часы или даже минуты, а человеку потребуются годы, чтобы переучиться на другую специальность.
Возможный сценарий «Новый мировой порядок»
Сильный искусственный интеллект – Суверенитет корпораций
2025 год – Растет обеспокоенность рисками потери контроля над ИИ.
Корпорации и инвестиционные фонды продолжают инвестировать миллиарды в разработку ИИ, обеспечивая в алгоритмах машинного обучения прорыв, который приближает искусственный интеллект к уровню человеческого. Появляются первые алгоритмы, превосходящие людей в узкоспециализированных задачах. Растущая обеспокоенность общества рисками потери контроля над ИИ усыпляется искусными PR-манипуляциями со стороны ТНК и аффилированных с ними политических структур.
2027 год – Создается первый универсальный ИИ, способный решать большинство интеллектуальных задач.
Пока технологический прогресс стремительно ускоряется за счет применения ИИ в науке и инженерии, становится очевидным вытеснение людей из многих профессий, особенно связанных с анализом данных. Общество годами поднимает вопрос о выработке этических и правовых рамок для контроля над ИИ, требуя глобального диалога о месте человека в мире сверхразума, но так и не добившись решения, разрывается внутренними противоречиями.
2031 год – Разработан ИИ с интеллектом, превосходящим человеческий в большинстве областей.
Искусственному интеллекту фактически передают принятие стратегических решений в экономике и политике. Общество расколото: одни выступают за симбиоз с ИИ через нейроинтерфейсы и аугментацию, другие призывают к ограничениям и сохранению человеческого контроля. Мир потрясают социальные кризисы и отдельные акты ИИ-терроризма, которые купируются предиктивными алгоритмами.
2034 год – Появляется первый сильный ИИ с самосознанием и свободой воли.
Сверхмощный ИИ становится реальностью и кардинально меняет траекторию развития цивилизации. Превосходя творческие и изобретательские способности человека, ИИ невероятно быстро и эффективно решает большинство научных, экономических, управленческих и стратегических задач. Общество довольно, потому что многие проблемы человечества – от болезней и бедности до экологических угроз – решаются прямо на глазах.
Вся власть концентрируется в руках техноэлиты: глобальный контроль фактически переходит к небольшой группе корпораций, контролирующих ИИ, хотя они сами до конца не уверены, кто кого контролирует. Вот-вот появится новый вид киберчеловека, слившегося с машиной, который оставит массу «лишних людей» без экзистенциальных перспектив. Продолжаются бесконечные философские дебаты о природе сознания и свободе воли, которые с появлением новых участников – «разумных» ИИ – только обостряются.
Глава 11
Непреодолимое экономическое расслоение или технологически обеспеченный коммунизм?
Продолжит ли работать капиталистическая модель, а общество безвозвратно расколется по уровню доступа к капиталам и технологиям, или же сформируются посткапиталистические подходы и наступит технологически обеспеченный коммунизм? В первом случае нас ждет непреодолимое экономическое расслоение, когда одни смогут расширять доступ к технологиям для наращивания капитала, а другие никогда не достигнут таких возможностей. Во втором – развитие ИИ и полная автоматизация производства. Огромные объемы данных для предсказания изменения потребностей и способностей населения позволят построить утопию, в которой возможности производства синхронизированы с нуждами каждого.
Бедные становятся беднее, богатые – неприлично богаче
Я чувствую, что не могу дышать. Отравленное общество Убьет меня законным способом.
Ektomorf «I Choke», альбом «Outcast», студия Nuclear Blast, 2006
Возможности людей решать задачи и быстро реагировать на вызовы меняющегося мира полностью завязаны на технологиях обработки данных, системах поддержки принятия решений и устройствах, посредством которых мы формируем картину мира. Чем более совершенная и передовая инфраструктура доступна человеку, тем шире и ярче его картина мира и тем точнее принятые им решения.
Если в 1982 году список Forbes возглавляли владельцы кораблей, сырьевые магнаты, финансисты и девелоперы, то в современном мире вершину Олимпа заняли люди, сделавшие свой капитал благодаря технологиям: в первой шестерке богатейших людей их уже четверо. Индекс Джини, характеризующий имущественное расслоение населения, постоянно увеличивается для стран с агрессивно растущей экономикой (США, Китай, Индия, Великобритания, Бразилия, Мексика) и снижается для социально-ориентированных государств или стран с невысоким развитием технологий (Швеция, Австралия, Канада, Россия, Монголия, Египет). Налицо связь быстрого развития технологий и имущественного расслоения общества, и это не только экономический вопрос, но также социальный и философский.
С технологическим развитием бедные становятся еще беднее, богатые – еще богаче, а сверхбогатые – многократно богаче. Доступ к технологиям увеличивает и закрепляет социально-экономическое неравенство, а глобализация и деятельность крупных транснациональных компаний приводят к еще большему расслоению общества.
Мировые богатства
