Илон Маск - Уолтер Айзексон
В феврале 2023 года он пригласил - возможно, лучше сказать "вызвал" - Сэма Альтмана на встречу в Twitter и попросил его принести учредительные документы OpenAI. Маск потребовал от него обосновать, как он может законно превратить некоммерческую организацию, финансируемую за счет пожертвований, в коммерческую, способную зарабатывать миллионы. Альтман пытался доказать, что все это законно, и настаивал на том, что лично он не является акционером и не получает прибыль. Он также предложил Маску акции новой компании, от которых тот отказался.
Вместо этого Маск обрушил шквал нападок на OpenAI и Альтмана. "OpenAI создавалась как некоммерческая компания с открытым исходным кодом (именно поэтому я назвал ее "Открытый" ИИ), чтобы служить противовесом компании Google, но теперь она превратилась в компанию с закрытым исходным кодом, приносящую максимальную прибыль и фактически контролируемую Microsoft", - заявил он. "Я до сих пор не могу понять, как некоммерческая компания, на которую я пожертвовал 100 млн. долларов, каким-то образом превратилась в коммерческую компанию с рыночной стоимостью 30 млрд. долларов. Если это законно, то почему все так не делают?". Он назвал ИИ "самым мощным инструментом, когда-либо созданным человечеством", а затем посетовал на то, что "теперь он находится в руках безжалостной корпоративной монополии".
Альтману было больно. В отличие от Маска, он деликатен и неконфронтационен. Он не зарабатывает на OpenAI, и ему кажется, что Маск недостаточно глубоко вник в сложность проблемы безопасности ИИ. Однако он считает, что критика Маска исходит из искреннего беспокойства. "Он - придурок", - сказал Альтман Каре Свишер. "У него такой стиль, который я не хотел бы иметь для себя. Но я думаю, что ему действительно не все равно, и он испытывает сильный стресс по поводу того, каким будет будущее человечества".
Потоки данных Маска
Топливом для ИИ являются данные. Новые чат-боты обучались на огромных массивах информации, таких как миллиарды страниц в Интернете и других документов. Google и Microsoft с их поисковыми системами, облачными сервисами и доступом к электронной почте располагали огромными массивами данных для обучения этих систем.
Что мог принести Маск на вечеринку? Одним из активов был Twitter, который насчитывал более триллиона твитов, опубликованных за несколько лет, и пятьсот миллионов, добавляемых каждый день. Это был "живой разум" человечества, самый оперативный в мире набор данных о реальных человеческих разговорах, новостях, интересах, тенденциях, спорах и жаргоне. Кроме того, это была отличная тренировочная площадка для чат-бота, позволяющая проверить, как реальные люди реагируют на его ответы. При покупке Twitter Маск не задумывался о ценности этих данных. "Это была побочная выгода, которую я осознал только после покупки", - говорит он.
Twitter довольно ограниченно разрешал другим компаниям использовать этот поток данных. В январе Маск созвал серию ночных совещаний в конференц-зале Twitter, чтобы разработать способы взимания платы за эти данные. "Это возможность монетизации", - сказал он инженерам. Это был также способ ограничить Google и Microsoft от использования этих данных для совершенствования своих чат-ботов с искусственным интеллектом.
У Маска был еще один кладезь данных: 160 млрд. кадров видео в день, которые Tesla получала и обрабатывала с камер на своих автомобилях. Эти данные отличались от текстовых документов, на основе которых работают чат-боты. Это были видеоданные о том, как люди ориентируются в реальных ситуациях. Они могут помочь в создании ИИ для физических роботов, а не только для чат-ботов, генерирующих текст.
Святой грааль искусственного интеллекта общего назначения - создание машин, способных работать как люди в физических пространствах, таких как заводы, офисы и поверхность Марса, а не просто удивлять нас невоплощенным общением. Tesla и Twitter вместе могли бы предоставить наборы данных и возможности обработки для обоих подходов: научить машины ориентироваться в физическом пространстве и отвечать на вопросы на естественном языке.
Мартовские иды
"Что можно сделать, чтобы сделать ИИ безопасным?" спросил Маск. "Я все время ломаю голову над этим вопросом. Какие действия мы можем предпринять, чтобы минимизировать опасность ИИ и гарантировать, что человеческое сознание выживет?"
Он сидел, скрестив ноги, босиком на террасе у бассейна в остинском доме Шивон Зилис, руководителя Neuralink, которая была матерью двух его детей и являлась его интеллектуальным соратником в области искусственного интеллекта с момента основания OpenAI восемь лет назад. Их близнецы, Страйдер и Азура, которым сейчас по шестнадцать месяцев, сидели у них на коленях. Маск все еще придерживался диеты с прерывистым питанием; на поздний завтрак у него были пончики, которые он начал есть регулярно. Зилис сварила кофе, а потом поставила его в микроволновую печь, чтобы он не выпил его слишком быстро.
За неделю до этого Маск написал мне сообщение: "Есть несколько важных вещей, о которых я хотел бы с тобой поговорить. Это можно сделать только при личной встрече". Когда я спросил, где и когда он хочет встретиться, он ответил: "В мартовские иды в Остине".
Я был озадачен и, признаться, немного встревожен. Стоит ли мне остерегаться? Оказалось, что он хотел поговорить о проблемах, с которыми он столкнется в будущем , и первой из них был искусственный интеллект. Нам пришлось оставить телефоны в доме, пока мы сидели на улице, потому что, по его словам, кто-то может использовать их для наблюдения за нашим разговором. Но позже он согласился, что я могу использовать его слова об искусственном интеллекте в книге.
Он говорил низким монотонным голосом, который прерывался приступами почти маниакального смеха. Он отметил, что объем человеческого интеллекта выравнивается, поскольку люди не рожают достаточно детей. В то же время объем компьютерного интеллекта растет по экспоненте, как закон Мура на стероидах. В какой-то момент биологический интеллект будет превзойден цифровым.
Кроме того, новые системы машинного обучения ИИ могут самостоятельно получать информацию и обучать себя генерировать результаты, даже модернизировать свой собственный код и возможности. Термин "сингулярность" был использован математиком Джоном фон Нейманом и писателем-фантастом Вернором Винджем для обозначения момента, когда искусственный интеллект сможет самостоятельно развиваться в неконтролируемом темпе и оставить нас, простых людей, позади. "Это может произойти раньше, чем мы ожидаем", - сказал Маск зловещим, ровным тоном.
На мгновение меня поразила странность происходящего. Мы сидели в пригородном патио у спокойного бассейна на заднем дворе в солнечный весенний день с двумя ясноглазыми близнецами, которые учились ходить на карачках, а Маск мрачно рассуждал о возможности создания устойчивой человеческой колонии на Марсе до того, как ИИ-апокалипсис уничтожит земную цивилизацию. Это заставило меня вспомнить слова Сэма Теллера, сказанные им на второй день работы у Маска, когда он присутствовал на
