ЦСП «Платформа» побеседовала с экспертом по технологическим трендам и цифровой трансформации, футурологом Русланом Юсуфовым о будущем человечества и возможных последствиях внедрения искусственного интеллекта. Предлагаем вашему вниманию фрагменты из интервью с авторитетным специалистом.
«Прекрасное далёко» не будет ли жестоко?
— Руслан, расскажите о своём видении человека будущего? Насколько «прекрасным» оно вам представляется?
Сегодня в мире колоссальный разрыв между различными слоями населения: в доходах, уровне комфорта, образовании. Фактический пример такого расслоения: более миллиарда человек в эпоху интернета не имеют доступа к туалетам. В дальнейшем разрыв будет увеличиваться ещё и по линии цифровизации и искусственного интеллекта (ИИ). Элитарии, владеющие новейшими технологиями и ИИ, станут кардинально отличаться от сегодняшнего Homo sapiens. Существует риск, что данную пропасть в развитии будет крайне трудно преодолеть.
В одном из оптимистичных сценариев будущего базовые потребности человека будут обеспечены автоматически: технологии позволят производить продукты питания и одежду, освобождая время для саморазвития и творческого вклада в развитие общества.
Но в более реалистичной модели поляризация усилится. Люди, не получившие технологической модернизации, могут оказаться в затруднительном положении и испытывать трудности с адаптацией к новым требованиям, что негативно скажется на их участии в общественной жизни. Вижу и антиутопию, где первые импланты вживляются еще в утробе матери, и вид современного человека исчезнет.
В «прекрасном» будущем, которое вы просите меня спроецировать, нет нищеты и болезней, но появятся новые перекосы. Сложно представить реализацию человеческого потенциала и амбиций без труда. Если роботы выполнят всю работу, какой смысл останется у человеческого труда? Анализ показывает, что применение современных технологий для извлечения прибыли и перестройки общественных институтов, скорее всего, останется прерогативой узкого круга лиц. И возникает большой вопрос, кто станет бенефициарами сегодняшнего прогресса?
— А в ближайшей перспективе какие изменения нас ждут?
— Через 10-20 лет возникнут новые вызовы, связанные с расширением присутствия ИИ в повседневной жизни, с невозможностью доверять глазам, слуху и интуиции, с потерей умения отличать правду от лжи. Мы ещё не научились справляться со старыми конфликтами, а уже рождаются новые, проходящие по границе ещё не сформировавшихся морали и этики. Но решать проблемы придётся старыми инструментами. На политической арене могут появиться популистские лидеры, способные эксплуатировать неосведомлённость граждан относительно сложных аспектов искусственного интеллекта.
«Люди разучились находить компромиссы»
— Откуда такие опасения?
— Способность современных людей к критическому мышлению снижается, они нуждаются в постоянном притоке дофамина. Сегодня мы перегружаем себя контентом, пытаясь уместить на одном экране калейдоскоп из пяти видео. И это лишь после 20 лет активного внедрения интернета в реальность обывателя. Читаешь новости, а там каждый день сообщают, что мошенники ограбили пенсионерку или ребенка. Образовался дисбаланс в развитии между безграмотной в цифровом сегменте бабушкой и продвинутым мошенником.
Предпосылок для исправления ситуации не вижу. Манипуляции человеком будут доступны не только корпорациям и государствам, но и бытовым аферистам, которые будут вымогать накопления у доверчивых граждан. Пытаемся думать о светлом будущем, но старушке до сих пор не дали инструмент для борьбы с тёмным прошлым.
— Неужели всё так грустно?
— Почему же? Я не умаляю те возможности, которые дают технологии: доставка, финансовые операции, ускорение бизнес-процессов… Уверен, что ИИ сможет лечить редкие болезни и продолжительность жизни значительно увеличится. Но налицо дисбаланс между новыми возможностями и степенью рисков, в том числе в масштабах человеческой цивилизации. Та ли это цена, которую мы готовы платить?
Существует явный разрыв в позициях: одни сторонники оптимистичных сценариев готовы идти на жертвы ради получения краткосрочных выгод, а другие выступают против внедрения технологий, выражая чрезмерные опасения и предлагая радикальные меры. Правда же будет где-то посередине.
Информационные пузыри способствуют формированию множества субъективных мировоззрений, что затрудняет поиск общих точек соприкосновения в обществе. У нас нет общественного консенсуса, однозначного понимания добра и зла. Мир разделён на замкнутые страты, которые по-разному видят реальность. Технари в основном общаются с технарями, а политики — с политиками. И мы оказались в мире, где люди с другим менталитетом кажутся дураками. В итоге мы разучились садиться за общий стол и находить компромиссы.
Кто правит миром?
— Получается, что человечество не готово к новым вызовам?
— Хорошая интерпретация. Технологии развиваются быстрее, чем меняются институты. Институты консервативны, а технологии убегают вперед, и разрыв этот увеличивается. Проблема в том, что экспертные группы состоят из джиарщиков и лоббистов, которые продвигают интересы отдельных корпораций. Корпорации хотят даже из самых благих побуждений внедриться в каждый дом, в каждое действие человека. Среди них есть и жаждущие власти над всем миром. Налицо дилемма заключенного. Даже при разработке высокоэффективного и этичного искусственного интеллекта затраты времени могут существенно превышать таковые для альтернативных, менее ориентированных на этические стандарты решений. Придётся себя подгонять, потому что, если не сделаете новое «ядерное оружие» сами, его создаст кто-то другой.
— Кто управляет миром: корпорации или государство?
— Сегодня корпорации настолько разрослись, что имеют даже частные армии, которые охраняют цепочки поставок полезных ископаемых. Они создают собственные анклавы в виде экосистем. И пропуск в этот анклав становится допуском ко всем благам. Ваш ребенок учится в школе этой экосистемы, ваша бабушка живёт в доме престарелых этой экосистемы и так далее. Но, покинув анклав, остаёшься один на один со всеми ужасами окружающего мира. Ребенка отчислят из школы, а бабушку выгонят из дома престарелых. Мы отдаем эту историю на самотёк, уповая на моральный компас лидеров корпораций и государства, которое должно закрутить гайки. Предполагаю, что гайки закручиваться будут, но в разных странах по-разному. Например, Италия запретила ChatGPT — правда после того, как OpenAI внесла необходимые изменения, чтобы соответствовать требованиям регулятора, сняла запрет. А в Бразилии, наоборот, впервые в мире при помощи этого чата написали муниципальный закон.
— Можно ли замедлить эти процессы при помощи этики искусственного интеллекта или другими гуманитарными способами?
— Степень влияния технологий сегодня настолько велика, что покрывает масштаб человеческой цивилизации. Последние десятилетия показали: вред, который может быть нанесен от компьютерного вируса, по степени опасности не меньше, чем от ракет, к которым получили доступ террористы. Но ракета охраняется автоматчиками, выставленными по периметру, её невозможно выкрасть. А компьютерный вирус – всего лишь код, который можно скопировать и, попав в Darknet, он становится доступен всем желающим. Надо помнить, что сегодня каждая электростанция или больница подключены к интернету, а завтра роботы появятся в каждом доме. Поэтому необходимо серьезнее относиться к цифровизации.
— Какие способы решения этих проблем вы можете предложить?
— Один из рецептов – обратить внимание на техноконсервативные общества, которые отказались от прогресса, чтобы сохраниться и не выходить в зону риска. Допускаю, что в новом мире, где будет очень много цифровизации, возникнут изолированные общины, которые предпочтут возвращение к корням и природе. Возможно, появятся целые страны, живущие за счёт экотуризма в живую реальность.
Другой пример – к бумажным книгам, к их ценности, люди начали относиться бережнее. Потому что в книге, в отличие от цифрового контента, невозможно переписать или удалить информацию. Она находится в том же виде, что и в год выпуска. Переосмыслять значение артефактов мы будем и дальше. Индустрия продажи невиртуального искусства не перестанет процветать. Но в ближайшее время её ждёт жёсткий прессинг со стороны искусства цифрового.
Грозит ли человечеству «технологический фашизм»?
— В какие годы может наступить момент, когда технический прогресс станет настолько быстрым и сложным, что окажется недоступным для понимания?
— По моим прогнозам, сильный искусственный интеллект появится к 2030-м годам, а суперинтеллект с технологической сингулярностью, скорее всего, придут во второй половине нынешнего века. Возможен сценарий, при котором доступ к искусственному интеллекту будет предоставляться лишь ограниченному кругу профессионалов и исключительно «по рецепту».
— Какие цивилизационные и культурные изменения ждут человечество?
— Очевидно, что будут прорывы в области генетики, биотехнологий и редактирования ДНК. Это в свою очередь откроет еще один ящик Пандоры. Возникнет масса вопросов. Сможем ли мы программировать цвет глаз будущего ребёнка или выбирать для него образ жизни? И как в этом случае не превратиться в мир, где альфами и омегами становятся сразу после рождения?
Перед образованием встанет задача помочь людям встроиться в новую парадигму, не превратиться в скучающих потребителей. В позитивном сценарии наступит технологический коммунизм, где все живут долго и счастливо. Но при более вероятном, альтернативном развитии событий довольны будут далеко не все. Редактирование генома человека станет доступно лишь избранным, что приведёт к появлению технофашистских режимов, с разделением людей на правильных и неправильных.
Очень важным в технологичном мире может оказаться вопрос духовности, поиска Бога. Поэтому вероятно появление «технотеократии» с догматичным подходом к мироустройству. Но, благодаря ИИ, конфликтов станет меньше вследствие тотального контроля над гражданами. При утопическом сценарии появится абсолютно безопасное общество, полностью искоренившее преступность.
Будущее не будет однозначно утопичным или антиутопичным, а станет ареной сложного диалога между инновациями и традиционными ценностями. Именно от нас зависит, каким станет этот мир – безопасным и справедливым или разделенным и рискованным. Важно не только внедрять новые технологии, но и формировать междисциплинарное сообщество, готовое принимать вызовы времени, чтобы вместе строить будущее, в котором каждый сможет найти своё место.