Читай, пиши, управляй: блокчейн как новая эра интернета - Крис Диксон
Создатели могли бы сами определять сроки и условия использования плодов их труда, а выполнение этих требований обеспечивалось бы правилами, закодированными в ПО. Они могли бы наложить авторские ограничения на коммерческое использование их цифровой собственности, в том числе обучение ИИ. Блокчейны могли бы внедрить обязательную систему расчета, которая возвращает часть доходов, генерируемых ИИ-системами, создателям, способствовавшим их обучению. При таких условиях компании, специализирующиеся на искусственном интеллекте, встали бы перед простым бинарным выбором: принимать коллективные требования группы или нет, – вместо того чтобы использовать всю свою власть и рычаги для воздействия на отдельных создателей. Кстати, именно поэтому профсоюзы почти всегда ведут с работодателями коллективные переговоры. Коллектив – великая сила.
А может ли кто-то разработать подобную систему, используя корпоративную сеть? Может, и, вероятно, так оно рано или поздно и будет. Но это неизбежно приведет к традиционным для корпоративных сетей проблемам, включая цикл «привлечение – обогащение». Корпоративный собственник со временем непременно воспользуется своими рычагами влияния для того, чтобы взимать непомерные комиссии и менять правила в своих корыстных интересах.
Я мечтаю увидеть интернет, в котором людей побуждают быть креативными и они могут творчеством зарабатывать на жизнь. Когда пользователи создают что-то и размещают это в открытом для всех интернете, они делают его лучше. ИИ ставит создателей в начало конвейера креативности, а не в конец. Но разве они не должны получать плату за участие в процессе, независимо от того, как их туда включают[355]? Через поисковые системы и социальные сети проходят огромные денежные потоки – более чем достаточные, чтобы отдавать часть денег людям, которые создали контент, во многом определяющий полезность поисковых и социальных инструментов.
Каждый, кто пользуется сегодня интернетом, должен спросить себя: делаю ли я что-то ценное и полезное, а если да, то платят ли мне за это? Чаще всего ответ на второй вопрос будет отрицательным. Группка крупных компаний благодаря модели корпоративной сети сконцентрировали в своих руках огромную переговорную мощь. Они диктуют всем остальным экономические условия. В зрелых, устоявшихся категориях, таких как поиск и социальные сети, где пользователи накрепко заблокированы, исправить этот скособоченный баланс власти будет чрезвычайно сложно. Но у новых категорий – например, у сетей, которые обговаривают вопросы экономических отношений с ИИ, – есть возможность начать с нуля.
И заняться этим надо сейчас, пока структура этого рынка не устоялась. Будут ли контент-фермы поставлять ИИ все, что ему нужно для обучения? Или же машины и создатели будут счастливо сосуществовать друг с другом? Кто кому служит: машины людям или наоборот? Таковы ключевые вопросы в эпоху искусственного интеллекта.
Дипфейки: за рамками теста Тьюринга
В романе Филипа Дика «Мечтают ли андроиды об электроовцах?»[356] (1968) «охотник за головами» Рик Декард преследует андроидов. Основной сюжетный элемент книги, вдохновивший позже авторов классики научной фантастики, фильма «Бегущий по лезвию»[357], заключается в попытках Декарда отличить «репликантов», или мошеннический ИИ, от людей.
Если до сих пор жизнь имитировала искусство, то теперь все ровно наоборот. Андроиды виртуально уже среди нас: ИИ позволяет без особого труда создавать «дипфейки» – медийные образы, которые выглядят и звучат максимально реалистично, но на самом деле созданы машинами. Дипфейковое видео может показывать политиков, знаменитостей или даже обычных людей, говорящих то, чего они сроду не говорили, или, скажем, представить аудитории сфабрикованную версию новостных событий в подтверждение какой-нибудь безумной теории заговора. Видеоматериалы, которые часто считаются в интернете истиной, уже сегодня кишат противоречивыми интерпретациями событий. Из-за дипфейков видео уже нельзя доверять.
Одно из предложений по борьбе с дипфейками – попытка сдержать ИИ путем соответствующего регулирования[358]. Некоторые такие предложения предусматривают процедуру государственной сертификации, чтобы услуги ИИ предлагали только одобренные властями организации[359]. Целый ряд лидеров ИИ-индустрии и сферы высоких технологий, включая Илона Маска и Йошуа Бенджио, пионера современного искусственного интеллекта, подписали петицию, призывающую к полугодичной паузе во всех исследованиях ИИ[360]. США и ЕС сегодня в процессе разработки комплексной структуры регулирования в этой сфере[361].
К сожалению, никакое регулирование не решит наших проблем. Никому не под силу загнать обратно в бутылку этого джинна. Нейронные сети, основная технология современного ИИ, подразумевают применение математических идей, которые невозможно разучить. Линейная алгебра никуда не денется, и неважно, допустят ли ее госчиновники или запретят. Системы с открытым исходным кодом уже сейчас способны создавать убедительные дипфейки, и они, безусловно, продолжат и дальше совершенствоваться в этом «грязном» деле. И разные страны не перестанут развивать эту технологию.
Нормативные ограничения лишь усилят влияние крупных компаний, у которых уже сейчас есть продвинутый, развитый ИИ. Они отдадут власть имущим и отвергнут неимущих. Обременительные правила будут сдерживать инновации, и пользователи станут все больше страдать, поскольку крупные технологические компании будут и дальше ужесточать свои влияние и власть, усугубляя проблему консолидации интернета.
Не решить регулированием и главной проблемы: отсутствия в интернете действенной системы репутации. Нам нужно не сдерживать развитие технологий, а, наоборот, толкать, продвигать их вперед. Мы должны создавать системы, которые позволят пользователям и приложениям верифицировать достоверность и подлинность медиа. Одна из перспективных идей состоит в том, чтобы ввести в блокчейнах подтверждения («аттестации») – заявления, подкрепленные криптографическими цифровыми подписями, – с помощью которых пользователи и организации будут ручаться за те или иные материалы.
Вот как это могло бы работать. Автор видео, фото или звуковой дорожки цифровым способом подписывает медиаидентификатор, называемый хешем, как будто говоря миру: «Я создал этот контент». Другая организация, например медиакомпания, дополняет эту аттестацию, подписав транзакцию словами вроде: «Подтверждаю подлинность данного контента». Пользователи могли бы идентифицировать себя подписями, с помощью криптографии доказывая, что они контролируют свои доменные имена (например, nytimes.com), более новые идентификаторы, привязанные к сервисам именования на основе блокчейна, например Ethereum Name Service (nytimes.eth), или пользовательские имена в более старых системах идентификации, таких как Facebook♦ и Twitter (@nytimes).
Хранение таких медиааттестаций (подтверждений) в блокчейнах несет в себе сразу три важных преимущества. Во-первых, прозрачный и неизменяемый встроенный журнал: каждый может в любой момент изучить полное содержание и всю историю аттестации, и никому не позволено изменить в них ни буквы. Во-вторых, достоверная нейтральность: если бы базу данных аттестации контролировала какая-то компания, она могла бы воспользоваться этим для ограничения доступа к базе или начала бы взимать плату за доступ к ней. А достоверно нейтральная база данных снимает этот платформенный риск и обеспечивает общественное благо с широким доступом. И наконец, в-третьих, композитность: социальные сети могли бы интегрировать эти аттестации, выводя на общее обозрение пометки о проверке подлинности медиа, подтвержденной надежными источниками. Третьи стороны могли бы создать репутационные системы с оценкой эффективности аттестующих путем присвоения им баллов доверия. И вокруг этой базы данных могла бы развиться целая экосистема приложений и сервисов, помогающая пользователям отличать реальный контент от сфабрикованного.
А еще аттестации способны помочь нам предотвратить дальнейшее распространение ботов и «фальшивых личностей». ИИ со временем непременно сделает ботов настолько сложными и продвинутыми, что отличить настоящих людей от фейковых будет просто невозможно (что-то в таком роде мы уже видели). И тогда мы могли бы начать прикреплять аттестации не к материалам медиа, а к идентификаторам соцсетей. Например, New York Times могла бы подтвердить, что дескриптор @nytimes в новой социальной сети контролируется той же организацией, что и сайт nytimes.com. А пользователи могли бы просмотреть блокчейн или довериться сторонним сервисам, делающим это, и верифицировать подлинность аттестаций.
Такие системы аутентификации также помогут нам победить спам и мошенников. Сервисы соцсетей могли бы отображать пометки о проверке подлинности имен пользователей с заслуживающими доверия аттестациями. И предлагать настройки, позволяющие пользователям отфильтровывать ботов (скажем, «показывать мне только людей с подписанной
