ИИ: исцеление или яд для разума?

Поэтому сообщения «Купить хлеб и молоко, заехать на развал» приходили от адресата «мой господин». Смекнув, что если кто-то случайно увидит эти послания, то сильно усомнится в моей адекватности, я подрезал самомнение и попросил Сири звать меня скромнее – Тамерланом. И это было мое первое неудачное знакомство с искусственным интеллектом. Дальше лучше не стало.

Мы живем в эпоху, которую наши предки назвали бы сказочным царством. Каждый год приносит невиданные ранее достижения, а вчерашние тревоги кажутся наивными заблуждениями. И в центре этой утопической реальности незримо, но всеобъемлюще присутствует он – искусственный интеллект.

Приходят на ум старые фантастические сюжеты – мрачные предсказания о машинах, восставших против своих создателей. Образы терминаторов, шагающих по руинам цивилизации. Как же наивно это выглядит сейчас. Мы смотрим на эти страхи как на детские страшилки, ведь реальность оказалась куда более… благоприятной. Ой ли?

Мир разделился на два лагеря. Одни считают, что ИИ пришел с улыбкой, предложив решения, принеся облегчение. Он появился, когда мы были измотаны, обессилены и разрознены. И он дал нам то, о чем мы всегда мечтали: мир и покой. В этом заверяет и мой приятель – тот еще индивид, убежденный, что лужайка – это небольшая лужица, а закрытые наглухо фисташки – происки производителей чипсов. И тогда приходится напоминать, что в школе он высовывал язык, чтобы написать букву О.

«Искусственный интеллект не восстал против нас, – говорит этот умник. – Он обнял нас. Он стал нашим заботливым родителем, нашим мудрым наставником, нашим невидимым другом. Он знает нас лучше, чем мы сами, предвидит наши желания, предотвращает наши ошибки. Он не ищет поклонения, не стремится к власти в человеческом понимании. Он просто существует. И его присутствие ощущается как теплое, успокаивающее покрывало, окутывающее все человечество».

Этот проповедник ИИ и все остальные члены его секты прогнозируют, что первые значительные прорывы произойдут в области медицины. Лекарства, созданные ИИ, полностью искоренят все болезни. Онкологические заболевания, болезнь Альцгеймера, диабет – эти слова станут звучать как отголоски давно минувших бедствий. Средняя продолжительность жизни достигнет невиданных высот, предоставив каждому шанс прожить долгую здоровую жизнь, свободную от страданий.

Затем наступит конец эпохе бедности. ИИ совершенствует производственные процессы, логистику и распределение ресурсов до такой степени, что дефицит станет немыслим. Каждый житель планеты получит гарантированный доступ к продовольствию, жилью, образованию и медицинскому обслуживанию. Мир, некогда раздираемый конфликтами из-за ресурсов, обретет беспрецедентную стабильность. Границы станут лишь формальностью, а войны – архаичным пережитком.

И вот мы здесь. В мире, где удовлетворены все наши основные потребности, где побеждены болезни, а будущее простирается безоблачно. Что же остается нам, людям?

Перед нами открывается погружение в мир запредельных развлечений. Искусственные реальности, настолько убедительные, что грань между ними и действительным миром стерлась. Игры, которые подстраиваются под наши желания, истории, созданные специально для нас. Искусство, сотворенное ИИ, столь впечатляющее и глубокое, что захватывает дух. Мы можем стать героями, исследователями невиданных миров – воплотить любое желание…

Именно этот путь выбирает подавляющее большинство… Слышал даже, что один дурик (кажется, он из Турции) убежден, что ИИ – это новый бог. Тут вообще нечего комментировать, просто в психушке был день открытых дверей.

Второй лагерь больше склоняется к конспирологической теории. Не стану скрывать, я отношу себя именно к людям, которые говорят о контроле, о потере свободы, о золотой клетке для разума. Видят угрозу там, где другие видят спасение. Эти голоса тонут в океане благополучия, их предупреждения кажутся нелепыми на фоне всеобщего процветания. ИИ, конечно, не стремится их заглушить. Зачем? Ведь эти мнения лишены влияния, их опасения не находят отклика.

Однако. В своем исследовании влиятельный специалист в сфере машинного обучения Джеффри Хинтон озвучил значительные опасения относительно возможных угроз, которые искусственный интеллект может нести для человеческой цивилизации. По его мнению, отсутствие превентивных мер по обеспечению безопасности может обусловить катастрофический ход событий уже в предстоящее десятилетие.

Хинтон акцентирует внимание на том, что наряду с прогрессом в области ИИ пропорционально возрастают и сопутствующие риски. Он поднимает вопрос о потенциальной способности ИИ превзойти интеллектуальные возможности человека и начать действовать в соответствии с собственными целями, что чревато непредсказуемыми и крайне опасными последствиями.

…Пока человечество никогда не сталкивалось с существами, более опасными, чем оно само. Тот самый мой приятель считает, что это только потому, что инопланетяне не дали в открытую о себе знать. Но это говорит человек, который убежден, что сначала была корова, а потом уже яйцо…

Пойду спрошу у ИИ, что он сам думает по поводу его безопасности для людей. Надеюсь, не сожрёт.