Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами - Руслан Геннадьевич Юсуфов
В своем «Манифесте технооптимиста» Андриссен пишет: «У нас есть враги. Наши враги – не плохие люди, а скорее, плохие идеи. Современное общество на протяжении шести десятилетий массово настраивали против технологий и жизни – под разными названиями: “экзистенциальный риск”, “ESG”, “цели устойчивого развития”, “социальная ответственность”, “капитализм стейкхолдеров”, “принцип предосторожности”, “доверие и безопасность”, “техноэтика”, “управление рисками”, “антирост”, “пределы роста”. Кампания по деморализации основана на идеях прошлого – зомби-идеях, многие из которых произошли от коммунистических идей (катастрофических тогда и сейчас), которые отказались умирать».
Технологическое лидерство, к сожалению, не всегда идет рука об руку с высокими моральными качествами. Сторонники e/acc называют людей с более осторожным взглядами на инновации уничижительными прозвищами, например, «обреченными» (англ. doomer) или «децелами»[82]. Если «e/acc» стремятся к утопическому образу будущего, то «децелы» боятся реализации антиутопического сценария.
Техновизионеры обещают, что с приходом искусственного интеллекта все станет «намного лучше», но то же самое говорили визионеры, стоящие у истоков социальных сетей. Вот только объединили нас соцсети или разъединили и фрагментировали? Процитирую высказывания нескольких лидеров:
• Марк Андриссен: «У ИИ есть потенциал сделать жизнь намного-намного лучше»;
• Сэм Альтман: «Не хочу звучать как утопический технарь, но увеличение уровня жизни, которое может обеспечить ИИ – экстраординарно»;
• Сундар Пичаи[83]: «ИИ – самая всеобъемлющая технология, над которой работает человечество, более всеобъемлющая, чем огонь или электричество»;
• Марк Цукерберг: «У ИИ есть потенциал помощи ученым в лечении и предотвращении всех болезней уже в этом веке».
Можно ли верить на слово людям, имеющим явный коммерческий интерес в продвижении технологий и уже злоупотреблявшим нашим доверием, продавая данные пользователей для политических кампаний (Марк Цукерберг) или собирая сведения о них в режиме «инкогнито» (Сундар Пичаи)? Но даже если не сомневаться в потенциале искусственного интеллекта для решения глобальных проблем человечества, то почему же предлагаемые технологии не решают их, а порождают новые?
Приведу еще несколько цитат о возможностях ИИ, которые так вдохновляют руководителей бигтеха[84]:
• Сатья Наделла, CEO Microsoft: «Произойдет повсеместное замещение на рынке труда»;
• Арвинд Кришна, CEO IBM: «Вы можете сделать ту же самую работу силами меньшего количества людей, это просто природа продуктивности»;
• Мустафа Сулейман, CEO Microsoft AI: «Это по сути – инструменты, замещающие человека»;
• Брайан Чески, CEO Airbnb: «Это продуктивность, но без лишнего налога в виде большего количества людей».
Американский комик и ведущий популярной телепередачи The Daily Show Джон Стюарт остроумно прокомментировал последний тезис: «Налог в виде людей, ранее известных как работники».
Почему разработки техногигантов направлены на замену человека (порождая новые социальные кризисы), если можно сфокусироваться на чем-то более насущном, например, образовании, борьбе с бедностью или изменением климата? А что, если замена человека является именно целью внедрения ИИ, а вовсе не косвенным ущербом? Действительно, почему бы не претендовать на гигантский мировой рынок заработных плат всех людей? Но что будет, когда идеальное видение будущего ИИ (или манипулятивная пропаганда визионеров) столкнется с реальностью?
В упомянутом выше манифесте предлагаются достаточно радикальные идеи: «Нашим врагом является замедление, снижение темпов роста и численности населения – столь модное среди нашей элиты нигилистическое стремление к меньшему количеству людей и энергии и большему количеству страданий и смерти. … Мы считаем, что любое замедление развития ИИ будет стоить жизней. Смерти, которые можно предотвратить с помощью ИИ, но которые не будут предотвращены, являются формой убийства».
Нарративы про страшных и опасных красных[85] добрую половину XX века сопровождали любую западную политическую аргументацию, и в попытке оправдать внедрение искусственного интеллекта нас снова возвращают к этим простым тезисам: если ты против ИИ и прогресса, значит, ты – коммунист. И даже более того: если ты не с нами, значит, ты – коммунист и убийца, а кровь невинно убиенных на твоих руках. Не правда ли, звучит достаточно экстремально? Особенно с учетом того, что подобная философская концепция исходит от венчурных капиталистов, напрямую заинтересованных в продвижении технологического развития.
Отказ людей от использования и внедрения технологий из-за связанных с ними рисков, а также по идеологическим причинам приведет к появлению сообществ, нацеленных на заморозку развития технологий или даже откат технологического развития. Неизбежны стихийные протесты современных луддитов, которые борются с достижениями инновационных технологий. Разрушение передающих и ретранслирующих станций 5G в Великобритании и Нидерландах в 2020 году, как и установка дорожных конусов на капоты беспилотных автомобилей для их блокировки в Сан-Франциско – яркие примеры современного луддизма.
В начале 2024 года десятки активистов собрались возле головного офиса компании OpenAI в Сан-Франциско, призывая инженеров прекратить работу над продвинутыми ИИ-системами. Демонстрацию организовали две группы – PauseAI и No AGI, выступающие за остановку развития искусственного интеллекта и против любых связей ИИ с военными структурами. PauseAI уже зарегистрирована как НКО в Нидерландах (PauseAI Global), США (PauseAI US) и Великобритании (PauseAI UK), и это далеко не первый их протест. В 2023 году похожие акции прошли у офиса Google DeepMind в Лондоне, OpenAI в Сан-Франциско, Microsoft в Брюсселе, а осенью 2023 года они провели первый международный протест – одновременно в США, Канаде, Дании, Нидерландах и Австралии, с участием похожих активистов из других НКО, вроде канадской ALIGN the World или австралийской Campaign for AI Safety.
Члены проекта The Midas Project определяют себя как «коллектив цифровых граждан, принимающий меры, чтобы технология искусственного интеллекта приносила пользу всем, а не только разрабатывающим ее компаниям». Они занимаются стратегическими инициативами по мониторингу технологических компаний и противодействию корпоративной пропаганде, выступая за ответственное развитие новых технологий. Название проекта отсылает к мифическому древнегреческому царю Мидасу, который в благодарность от бога Диониса получил дар обращать в золото все, к чему ни прикоснется, но чуть не умер от голода и жажды, потому что не обдумал последствия своей просьбы.
Традиционные низкотехнологичные общины зачастую выступают против расширения возможностей человека, например, амиши категорически против абортов и считают «искусственное оплодотворение, генетику, евгенику и исследования стволовых клеток несовместимыми со своими ценностями и верой». Сможет ли обычный житель современного мегаполиса о чем-то договориться с членом общины амишей? Вероятно, да, но позвонить не получится: придется ехать в место проживания общины и просить аудиенцию, которую не каждому предоставят. И даже если встреча состоится, то жизненные позиции, принципы принятия решений и политические взгляды этих людей настолько различны, что договориться будет непросто.
А что, если к идейным разногласиям добавятся физические? Как и о чем будут договариваться люди и киборги? Ведь им придется как-то взаимодействовать. Какой путь проделает произведенная амишем экологически чистая тыква, чтобы оказаться на столе
