Потому сознательно встал на его сторону. И даже решил не останавливаться на этом.
— С искусственным интеллектом нужно быть предельно осторожными. Это настоящая шкатулка Пандоры. Открой её неосторожно — и человечество может захлестнуть волна бедствий. В худшем случае мы вообще рискуем оказаться на грани вымирания.
И хорошо видел, как Старк насторожился, но продолжил, углубляя тему.
— Люди даже не представляют, с какой скоростью развивается ИИ. Нам кажется, будто мы держим его на поводке, но через десять лет… нет, через пять он может нас обогнать. Более того — начать нами управлять. Если довести мысль до крайности, через пять лет он может относиться к людям как к домашним животным. Нельзя исключать и появление бессмертного диктатора, навязанного всему человечеству.
По сути, говорил его же словами. Теми, которые он уже произносил раньше или произнёс бы позже. И лишь аккуратно доставал их из будущего и выкладывал перед ним, одну за другой.
— И это вовсе не шутка. Представьте: мы создаём ИИ, чтобы он фильтровал спам в электронной почте. А он приходит к выводу, что самый эффективный способ борьбы — уничтожить источник спама. А источник спама, по его логике, — человечество. Стереть проблему под корень.
И сделал паузу, позволяя этим словам повиснуть в воздухе, смешаться с тихим звоном бокалов и приглушённым гулом бара.
— Даже если предположить, что контроль возможен, это всё равно опасно. Потому что этот контроль окажется в руках корпораций. А если крупные технологические гиганты монополизируют ИИ, получат почти божественную власть и превратят её в диктатуру?
И продолжал с упоением, не меняя тона, будто обсуждал не конец света, а очередной бизнес-план.
— Звучит абсурдно, но представьте, что топ-менеджеры первыми подключат себе нейроинтерфейсы, улучшат тела, станут киборгами, трансгуманами. А потом установят власть элиты над остальным человечеством.
На этом потоке мрачных рассуждений Старк уже не скрывал растерянности. Он смотрел на меня так, будто внезапно увидел собственное отражение в зеркале — слишком точное, слишком пугающее.
— Это… поразительно, — пробормотал он. — Никогда не думал, что в этом мире найдётся человек, который мыслит настолько же, как я…
Он замолчал и ушёл в себя.
Молчание затянулось. Минуты тянулись вязко, почти ощутимо, как густой сироп. Прошло около семи минут. Он думал, не обращая внимания ни на меня, ни на окружающий шум, ни на собственный недопитый стакан.
Наконец он поднял голову и посмотрел прямо на меня.
— В таком случае… нет причин меня исключать, верно? Всё, что вы сказали, — это именно то, о чём я твержу уже много лет. Честно говоря… это даже пугающе похоже.