Оригинал на английском: https://www.theguardian.com/technology/2023/mar/23/tech-guru-jaron-lanier-the-danger-isnt-that-ai-destroys-us-its-that-it-drives-us-insane
Мое предсказание по этой же теме сделанное в 1995 году — Экология сознания и психические проблемы Человечества.
Перевод статьи:
Крестный отец виртуальной реальности работал рядом с провидцами и властителями Интернета, но не любит ничего больше, чем показывать недостатки технологий. Он рассказывает о том, как мы можем заставить искусственный интеллект работать на нас, как интернет лишает нас выбора — и почему он запретил бы TikTok.
Джарона Ланье, крестного отца виртуальной реальности и мудреца всего сетевого, прозвали Отчаянным Оптимистом. И никогда еще не было времени, когда мы так нуждались в его унылом оптимизме. В наши дни трудно прочесть статью или послушать подкаст без того, чтобы не услышать, что нам не повезло с искусственным интеллектом, что наша гордыня вернется к нам и роботы захватят мир. Есть истории о том, как чат-боты становятся лучшими друзьями, признаются в любви, пытаются разрушить стабильные браки и угрожают хаосом в глобальном масштабе.
Действительно ли ИИ способен перехитрить нас и захватить мир?
«Хорошо! Ваш вопрос не имеет смысла», — говорит Ланье своим мягким певучим голосом. «Вы только что использовали набор терминов, которые для меня являются выдумкой. Извините, что я так отвечаю, но это смешно… это нереально». По его словам, это материал для таких научно-фантастических фильмов, как «Матрица» и «Терминатор».
Ланье даже не нравится термин «искусственный интеллект», возражая против идеи, что он действительно разумен и что мы можем с ним соперничать. «Эта идея превзойти человеческие способности глупа, потому что он создан из человеческих способностей». Он говорит, что сравнивать себя с ИИ — это то же самое, что сравнивать себя с автомобилем. «Это все равно, что сказать, что автомобиль может бежать быстрее, чем человек. Конечно, может, и все же мы не говорим, что машина стала лучшим бегуном».
Я краснею и улыбаюсь. Смываю, потому что мне неловко, улыбаюсь, потому что мне легче. Я с радостью приму свою порку, — говорю я. Он визжит от смеха. «Хе-хе-хе! ХОРОШО. Хе-хе-хе!» Но он не хочет, чтобы мы успокаивались. Нам есть о чем беспокоиться: вымирание человечества остается вполне реальной возможностью, если мы будем злоупотреблять искусственным интеллектом, и даже если он будет создан нами самими, конечный результат не будет красивее.
62-летний Ланье работал рядом со многими провидцами и влиятельными людьми в Интернете. Он и инсайдер (он работает в Microsoft в качестве междисциплинарного ученого, хотя он ясно дает понять, что сегодня он говорит от своего имени), и аутсайдер (он постоянно и прозорливо разоблачает опасности, которые таит в себе Интернет). Он также является одним из самых самобытных людей на планете — лохматый пророк с рыжими дредами, поразительной историей, красноречием, соответствующим его гигантскому мозгу, и хихиканьем, столь же тревожным, сколь и жизнеутверждающим.
Хотя он сам является гуру в области технологий, его миссия заключается в том, чтобы отстаивать человеческое перед цифровым — напоминать нам, что мы создали машины, а искусственный интеллект — это именно то, что написано на упаковке. В таких книгах, как «Вы не гаджет» и «Десять причин удалить свои аккаунты в социальных сетях», он утверждает, что интернет убивает личное общение, подавляет изобретательность и извращает политику.
Мы встречаемся на платформе видеоконференций Teams от Microsoft, чтобы он мог продемонстрировать свое недавнее изобретение, которое позволяет нам находиться в одной комнате, несмотря на то, что нас разделяют тысячи миль. Но технология не работает в самом базовом смысле. Он не может меня видеть. Несомненно, он будет в какой-то степени доволен. Ничто так не нравится Ланье, как демонстрация того, что технология может пойти не так, особенно если на другом конце ею управляет некомпетентный человек. Итак, мы переключаемся на соперника Zoom.
На заднем плане у Ланье полно музыкальных инструментов, включая ряд уд, свисающих с потолка. В другой жизни он профессиональный современный классический музыкант — блестящий игрок на редких и старинных инструментах. Часто он использует музыку для объяснения гениальности и ограниченности технологий. В самом простом виде цифровые технологии работают по принципу «вкл/выкл», как клавиши на клавиатуре, и им не хватает бесконечного разнообразия саксофона или человеческого голоса.
«С моей точки зрения, — говорит он, — опасность заключается не в том, что новая инопланетная сущность заговорит через нашу технологию, захватит власть и уничтожит нас. Для меня опасность заключается в том, что мы используем наши технологии, чтобы стать взаимно непонятными или, если хотите, стать безумными, так, что мы не будем действовать с достаточным пониманием и самоинтересом, чтобы выжить, и мы умрем от безумия, по сути».
Теперь я чувствую меньшее облегчение. Смерть от безумия звучит не слишком привлекательно, и она может принимать разные формы — от мировых лидеров или террористов, портивших глобальную безопасность ИИ, до спятивших от дезинформации или желчи в Твиттере. Ланье говорит, что чем сложнее становятся технологии, тем больше вреда мы можем нанести с их помощью, и тем больше на нас лежит «ответственность за здравомыслие». Другими словами, мы обязаны действовать нравственно и гуманно.
Ланье был единственным ребенком у еврейских родителей, которые знали все о бесчеловечности. Его венская мать была блондинкой и сумела вырваться из концлагеря, выдав себя за арийку. Затем она переехала в США, работала пианисткой и торговала акциями. Его отец, семья которого была в значительной степени уничтожена во время украинских погромов, занимался самыми разными профессиями — от архитектора до научного редактора научно-фантастических журналов и, в конце концов, учителя начальной школы. Ланье родился в Нью-Йорке, но вскоре семья переехала на запад. Когда ему было девять лет, его мать погибла после того, как ее машина перевернулась на шоссе, когда она возвращалась со сдачи экзамена по вождению.
Отец и сын были травмированы и обнищали; мать была основным кормильцем. Они переехали в Нью-Мексико, жили в палатках, пока 11-летний Ланье не начал проектировать их новый дом — геодезический купол, на строительство которого ушло семь лет. «Он не был хорош конструктивно, но был хорош терапевтически», — говорит он. В своих мемуарах 2017 года «Рассвет нового всего» Ланье написал, что дом выглядел «немного как женское тело». Вы могли видеть большой купол как беременный живот, а два икосаэдра — как груди».
Он был до смешного смышленым. В 14 лет он поступил в Университет штата Нью-Мексико, где изучал математическую нотацию, что привело его к компьютерному программированию. Он так и не получил диплом, но поступил в художественную школу и провалился. К 17 годам он работал на разных работах, в том числе козоводом, сыроделом и помощником акушерки. Затем, к 20 годам, он стал научным сотрудником компании Atari в Калифорнии. Когда его сократили, он сосредоточился на проектах виртуальной реальности, став соучредителем компании VPL Research для коммерциализации технологий VR. Он легко мог бы стать технологическим миллиардером, если бы разумно продал свой бизнес или хотя бы проявил немного интереса к деньгам. В настоящее время, по его словам, он очень хорошо устроился в финансовом плане, и непристойное богатство не соответствует его ценностям. Сегодня он живет в Санта-Круз в Калифорнии с женой и дочерью-подростком.
Хотя многие гуру цифровых технологий начинали как идеалисты, для Ланье существовала неизбежность того, что Интернет нас надует. Мы хотели получить все бесплатно (информацию, дружбу, музыку), но капитализм так не работает. Поэтому мы стали товаром — наши данные продаются третьим лицам, чтобы продать нам еще больше вещей, которые нам не нужны. «Я написал статью, в которой описал, как то, что мы сейчас называем ботами, будет превращено в этих агентов манипуляции. Я написал это в начале 90-х годов, когда интернет только-только появился». Он визжит от ужаса и хихикает. «Боже мой, это же было 30 лет назад!».
На самом деле, он считает, что такие боты, как ChatGPT от OpenAI и Bard от Google, могут дать надежду цифровому миру. Ланье всегда был обеспокоен тем, что Интернет, казалось бы, предлагает бесконечное количество вариантов, но на самом деле выбор уменьшился. До сих пор алгоритмы искусственного интеллекта использовались в основном для выбора видео, которое мы хотим посмотреть на YouTube, или постов, которые мы увидим в социальных сетях. Ланье считает, что это сделало нас ленивыми и нелюбопытными. Раньше мы пролистывали стопки в музыкальном магазине или просматривали книги в книжных магазинах. «Мы были напрямую связаны с базой выбора, которая на самом деле была больше, а не получали все это через воронку, которую контролирует кто-то другой».
Возьмем потоковые платформы, говорит он. «Netflix однажды устроил конкурс с призом в миллион долларов, чтобы улучшить свой алгоритм, чтобы помочь людям разобраться в этом гигантском пространстве вариантов потокового вещания. Но у него никогда не было такого большого выбора. На самом деле весь потоковый контент Netflix можно было бы разместить на одной странице с возможностью прокрутки. Это еще одна область, где мы несем ответственность за здравомыслие, говорит он, — не сужать наш выбор и не попадать в эхо-камеры, рабы алгоритма. Вот почему он любит играть живую музыку — потому что каждый раз, когда он играет с группой, он создает что-то новое.
Уведомление о конфиденциальности: Информационные бюллетени могут содержать информацию о благотворительных организациях, онлайн рекламу и контент, финансируемый сторонними организациями. Для получения дополнительной информации см. нашу Политику конфиденциальности. Мы используем Google reCaptcha для защиты нашего сайта, поэтому к нему применимы Политика конфиденциальности и Условия предоставления услуг Google.
после продвижения рассылки
Для Ланье классическим примером ограниченного выбора является Википедия, которая фактически стала мировой энциклопедией. «Википедией управляют очень милые люди, которые являются моими друзьями. Но дело в том, что это как бы одна энциклопедия. Некоторые из нас помнят, как на бумаге существовали «Британская энциклопедия» и «Американская энциклопедия», и они представляли разные точки зрения. Идея иметь идеальную энциклопедию просто странная».
Так могут ли новые чатботы бросить этому вызов? «Верно. Это моя точка зрения. Если вы обратитесь к чат-боту и скажете: «Пожалуйста, не могли бы вы кратко описать состояние лондонского метро?», то каждый раз будете получать разные ответы. И тогда вам придется выбирать». Эта запрограммированная случайность, по его словам, является прогрессом. «Внезапно идея сделать компьютер похожим на человека зашла достаточно далеко в этой итерации, чтобы мы могли естественным образом перерасти эту иллюзию монолитной истины интернета или ИИ. Это значит, что у человека, взаимодействующего с этой штукой, появилось немного больше выбора, разборчивости и человечности».
Это все хорошо, но как насчет того, что ИИ заменит нас на рабочем месте? У нас уже есть перспектива того, что чат-боты будут писать статьи, подобные этой. И снова он говорит, что не технология заменяет нас, а то, как мы ее используем. «Есть два пути, по которым это может пойти. Один из них заключается в том, что мы делаем вид, что бот — это реальная вещь, реальная сущность, как человек, а затем, чтобы сохранить эту фантазию, мы стараемся забыть все исходные тексты, которые использовались для функционирования бота. Журналистика от этого только пострадает. Другой вариант — вы следите за тем, откуда взялись источники. И в этом случае может возникнуть совершенно иной мир, где, если бот опирается на ваш репортаж, вы получаете за него оплату, и существует общее чувство ответственности, где все работает лучше. Термин для этого — достоинство данных».
Мне кажется, что для достоинства данных уже слишком поздно; унылый оптимист рискует стать здесь утопическим оптимистом. Но вскоре Ланье возвращается на планету Блик. «Вы можете использовать ИИ для создания фальшивых новостей быстрее, дешевле и в больших масштабах. В этой комбинации мы можем увидеть наше вымирание».
В книге «Вы не гаджет» он писал, что смысл цифровых технологий в том, чтобы сделать мир более «творческим, выразительным, эмпатичным и интересным». Достигли ли они этого? «В некоторых случаях это так. В Интернете есть много классных вещей. Я считаю, что TikTok опасен и должен быть запрещен, но мне нравится танцевальная культура на TikTok, и ее нужно беречь». Почему его следует запретить? «Потому что он контролируется китайцами, и если возникнут трудные обстоятельства, есть много ужасных тактических способов его использования. Я не думаю, что это приемлемый риск. Это душераздирающе, потому что многие дети любят его по вполне уважительным причинам».
‘С самого начала социальные сети были явно тупыми’.
Что касается Твиттера, то, по его словам, он пробудил в нас все самое худшее. «У него есть способ брать людей, которые начинали как отдельные личности, и объединять их в одну личность, оптимизированную для вовлечения в Твиттер. Эта личность неуверенная и нервная, сосредоточенная на личных обидах и оскорбленная заявлениями о правах других, если они другие люди. В качестве примера я привожу Трампа, Канье и Элона [Маска, который сейчас владеет Twitter]. Десять лет назад у них были отдельные личности. Но они сошлись в удивительном сходстве личностей, и я думаю, что именно такую личность вы получаете, если проводите слишком много времени в Twitter. Это превращает вас в маленького ребенка на школьном дворе, который одновременно отчаянно жаждет внимания и боится, что его побьют. В итоге вы становитесь фальшивкой, которая заботится о себе, но теряет сочувствие к другим». Это блестящий анализ, который возвращает нас к исходной точке — нашей ответственности перед здравомыслием. Удерживает ли Ланьера от социальных сетей ответственность за собственное здравомыслие? Он улыбается. «Я всегда считал, что социальные сети — это чушь. Очевидно, что с самого начала это была тупая штука».
В Интернете есть многое, чем он по-прежнему гордится. Он говорит, что используемые сейчас гарнитуры виртуальной реальности мало чем отличаются от тех, которые он представил в 1980-х годах, а его работа по хирургическому моделированию принесла огромную практическую пользу. «Я знаю многих людей, чьи жизни были спасены благодаря тому, что 40 лет назад я демонстрировал эти вещи. Боже мой! Я уже такой старый!» Он останавливается, чтобы спросить, не преувеличивает ли он свое влияние, подчеркивая, что он участвовал только в самом начале. По его словам, существует огромный потенциал для того, чтобы ИИ помог нам справиться с изменением климата и спасти планету.
Но он также видел и самые худшие проявления ИИ. «Я знаю людей, чьи дети совершили самоубийство благодаря очень сильному вкладу онлайн-алгоритма. В этих случаях жизнь была отнята. Возможно, с этой единственной человеческой точки зрения невозможно сказать наверняка, что бы нам сейчас сказала гигантская бухгалтерская книга, но каким бы ни был ответ, я уверен, что мы могли бы сделать лучше, и я уверен, что мы можем и должны сделать лучше в будущем».
И снова это слово — человек. По его словам, способ убедиться в том, что мы достаточно здравомыслящи, чтобы выжить, — это помнить, что именно наша человечность делает нас уникальными. «Многие современные мыслители-просветители и технические специалисты считают, что есть что-то старомодное в вере в то, что люди особенные — например, что сознание — это вещь. Они склонны думать, что существует эквивалент между тем, чем может быть компьютер, и тем, чем может быть человеческий мозг». Ланье с этим не согласен. «Мы должны сказать, что сознание — это реальная вещь и что у людей есть мистическая внутренняя сущность, которая отличается от других вещей, потому что если мы не скажем, что люди особенные, как мы сможем создать общество или технологии, которые будут служить людям?».
Ланье смотрит на часы и извиняется. «Знаете что, мне вообще-то нужно идти на прием к стоматологу». Реальный мир вмешивается и утверждает свое превосходство над виртуальным. Искусственный интеллект не собирается лечить его зубы, и он не хотел бы, чтобы было иначе.
…Поскольку 2023 год набирает обороты, а вы присоединяетесь к нам из Камбоджи, у нас есть небольшая просьба. Новый год означает новые возможности, и мы надеемся, что этот год принесет столь необходимые стабильность и прогресс. Что бы ни случилось, «Гардиан» будет рядом, обеспечивая ясность и бесстрашные, независимые репортажи со всего мира, 24 часа в сутки 7 дней в неделю.
Времена трудные, и мы знаем, что не все в состоянии платить за новости. Но поскольку мы финансируемся читателями, мы полагаемся на постоянную щедрость тех, кто может себе это позволить. Благодаря этой жизненно важной поддержке миллионы людей могут продолжать читать достоверную информацию о событиях, формирующих наш мир. Будете ли вы инвестировать в «Гардиан» в этом году?
В отличие от многих других изданий, у нас нет владельца-миллиардера, а значит, мы можем бесстрашно добиваться правды и честно ее освещать. В 2023 году мы не изменимся; мы будем работать с фирменной решимостью и страстью, чтобы принести вам журналистику, которая всегда свободна от коммерческого или политического вмешательства. Никто не будет редактировать нашу редакцию или отвлекать наше внимание от самого важного.
С вашей поддержкой мы продолжим делать журналистику Guardian открытой и бесплатной для всех. Когда доступ к информации становится равным, большее число людей может понять глобальные события и их влияние на людей и сообщества. Вместе мы можем требовать большего от власть имущих и бороться за демократию.
Независимо от того, мало или много вы даете, ваше финансирование жизненно важно для обеспечения нашей работы в течение многих лет. Если у вас есть возможность, пожалуйста, поддерживайте нас ежемесячно всего от $2. Это займет меньше минуты, и вы можете быть уверены, что каждый месяц вы оказываете большое влияние на поддержку открытой, независимой журналистики. Спасибо.