Илон Маск обещает рай ИИ: почему скептики видят в этом угрозу

Апология изобилия от ИИ: обещания и реальность

В последние годы технологические магнаты активно продвигают нарратив о том, что искусственный интеллект (ИИ) способен решить глобальные проблемы и создать мир неограниченных ресурсов. Эта оптимистичная перспектива, подкрепленная видениями таких фигур, как Илон Маск, предполагает, что автоматизация и продвинутые системы ИИ приведут к экономическому прорыву. Маск, в частности, говорил о возможности создания «квазиизобильной экономики» к 2036 году, где традиционное понятие дохода утратит смысл, а люди смогут получать желаемое без финансовых ограничений. Эта идея перекликается с научно-фантастическими сценариями общества пост-дефицита, где технологии удовлетворяют базовые потребности, освобождая человечество для саморазвития.

Однако, несмотря на привлекательность таких прогнозов, они опираются на предположение о полной автономии систем ИИ в течение десятилетия. Это вызывает закономерные вопросы о жизнеспособности корпораций и механизмах распределения благ в таком будущем, на которые у сторонников утопии нет четких ответов. Критики, такие как Эд Зитрон, призывают сторонников ИИ демонстрировать текущие возможности технологий, а не полагаться на будущие обещания. Часто в качестве основного аргумента используется слово «сможет», что подчеркивает спекулятивный характер заявлений о возможностях современного ИИ, особенно больших языковых моделей (LLM).

Скептицизм против техноутопии: подводные камни ИИ

Идея о том, что ИИ будет управлять миром, а правительства, финансируемые за счет ИИ, обеспечат всем базовый доход, вызывает серьезные сомнения, особенно учитывая прошлое Маска, выступавшего за сокращение государственных расходов. Этот предложенный «ИИ-социализм» кажется противоречащим его публичной позиции. Главная проблема заключается в склонности LLM к «галлюцинациям» - генерации недостоверной информации. Использование таких систем в критически важных экономических структурах может привести к катастрофическим последствиям, а не к процветанию. Уровень сложного рассуждения и контекстуального понимания, присущий человеческому интеллекту, пока остается недостижимым для современных LLM.

Утверждение о том, что ведущие технологические компании отойдут в прошлое с приходом эры ИИ, может быть лишь попыткой успокоить общественное беспокойство. Это удобная история для индустрии, чьи наиболее перспективные приложения находятся в сферах наблюдения и военных технологий. Правительства, заинтересованные в усилении контроля над гражданами и разработке более эффективного оружия, готовы нести значительные расходы на развитие ИИ, несмотря на признанные риски системных ошибок. Хотя бизнес и потребители могут получить некоторую пользу от ИИ, например, в улучшении поисковых функций, истинные затраты на эти ограниченные преимущества значительно недооцениваются. Архитектура современного ИИ, требующая увеличения мощности дата-центров с каждым новым пользователем, препятствует достижению экономии от масштаба, которая обычно снижает затраты. Следовательно, ИИ в его нынешнем виде вряд ли окажется прибыльным для большинства приложений, за исключением узкоспециализированных случаев, где пользователи готовы платить за ценность вывода, покрывая значительные реальные расходы.

Взгляд между строк: реальные интересы и рыночные связи

Грандиозные обещания ИИ-утопии, хотя и привлекательны, требуют критического анализа в свете текущих технологических реалий. Основная проблема - разрыв между спекулятивными будущими возможностями и демонстрируемой производительностью сегодняшних систем ИИ. LLM, несмотря на их способность обрабатывать и генерировать текст, страдают от фундаментальных ограничений, включая склонность к фактическим неточностям. Передача контроля над критически важной инфраструктурой таким системам, как предполагают некоторые технологи, создаст недопустимый уровень риска.

Экономические последствия также значительны. Идея о том, что ИИ спонтанно создаст мир без дефицита, игнорирует существенные и постоянные затраты на разработку, внедрение и обслуживание этих сложных систем. В отличие от многих технологий, которые выигрывают от эффекта масштаба, растущие вычислительные потребности ИИ на пользователя предполагают, что затраты не снизятся значительно, что ставит под сомнение идею всеобщего доступа к изобилию. Более того, текущая траектория развития ИИ показывает сильный уклон в сторону применения в обороне и наблюдении. Хотя это может дать стратегические преимущества правительствам и определенным структурам, это мало способствует более широкому общественному видению изобилия. Нарратив об ИИ как о благотворной силе, создающей всеобщее процветание, может служить для сокрытия непосредственных и потенциально тревожных приложений, набирающих обороты. Сопротивление со стороны сообществ, обеспокоенных экологическим воздействием и инфраструктурными затратами дата-центров, является важной отправной точкой для более широкого диалога об истинных издержках и этических соображениях принятия ИИ, выходящих за рамки инфраструктуры и касающихся самого использования и потенциального злоупотребления технологией.

Потенциальные рыночные связи здесь широки. Акции технологических компаний, особенно тех, кто активно инвестирует в разработку ИИ и облачную инфраструктуру, могут испытать волатильность в зависимости от изменений общественного восприятия и регуляторного давления. Индекс доллара США (DXY) может отреагировать косвенно, если достижения в области ИИ существенно повлияют на прогнозы глобального экономического роста или если государственные расходы на ИИ приведут к сдвигам в фискальной политике. Акции оборонного сектора могут привлечь повышенный интерес, если усилится нарратив вокруг военного применения ИИ. Наконец, более широкие рынки акций могут оказаться под влиянием любого предполагаемого воздействия на производительность и корпоративную прибыль, хотя временные рамки таких воздействий остаются весьма спекулятивными.