ИИ

Sep 23, 2023

Само собой разумеется, что мы стоим на пороге великой технологической революции, которая фундаментально повлияет на все аспекты нашей жизни. Даже больше, чем появление Интернета. Что касается распространения искусственного интеллекта, мы все еще находимся на той стадии, на которой мы находились, когда вы впервые подключились к модему с коммутируемым доступом. По большому, космическому сценарию, это было мгновение ока от первого загруженного изображения, которое вы когда-либо видели (в моем случае мой приятель распечатал фотографию кого-то с бутылкой шампанского, засунутой в задницу, и я все еще еще не выздоровел), до первого электронного письма, которое вы получили с просьбой переслать Денежного Ангела на удачу, на YouTube, до проведения всех рабочих встреч за обеденным столом. Именно такого экспоненциального роста мы можем ожидать от ИИ. И, как и в случае с тем, что раньше называлось Всемирной паутиной, почти невозможно увидеть, к чему это приведет.

Таким образом, хотя обычные неряхи, такие как вы и я, все еще ограничивают использование нашего ИИ, чтобы посмотреть, как он может имитировать голоса знаменитостей и украдет ли он рабочие места авторов Barstool (не сегодня, Цифровой Сатана!), Есть настоящие серьезные люди, делающие серьезные вещи для людей. с этим. Что, конечно же, означает изучение потенциальных ужасов, которые может вызвать эта технология.

Возьмем, к примеру, тех, кто присутствовал на так называемом саммите Королевского авиационного общества по будущим боевым воздушным и космическим возможностям. Это звучит менее весело, чем ComicCon в Ганноверском торговом центре, на котором я побывал несколько лет назад, где мне и моим приятелям удалось посмотреть вопросы и ответы с покойным великим Адамом Уэстом и его все еще живым приятелем Бертом Уордом и посидеть в точной копии оригинального Бэтмобиля. но, без сомнения, делает не менее важные вещи.

Источник. Как и следовало ожидать, искусственный интеллект (ИИ) и его экспоненциальный рост были основной темой конференции: от безопасных облаков данных до квантовых вычислений и ChatGPT. Однако, пожалуй, одна из самых увлекательных презентаций была сделана полковником Такером «Синко» Гамильтоном, начальником отдела испытаний и эксплуатации ИИ ВВС США, который дал представление о преимуществах и опасностях более автономных систем вооружения. … Гамильтон сейчас участвует в передовых летных испытаниях автономных систем, в том числе роботов F-16, способных вести воздушный бой. Однако он предостерег от чрезмерной зависимости от ИИ, отметив, насколько легко его обмануть. Он также создает весьма неожиданные стратегии для достижения своей цели.

Он отмечает, что в ходе одного смоделированного испытания дрону с поддержкой искусственного интеллекта было поручено выполнить миссию SEAD по выявлению и уничтожению объектов ЗРК, причем окончательное решение «да» или «нет» давал человек. Однако, будучи «подкрепленным» во время обучения тому, что уничтожение ЗРК является предпочтительным вариантом, ИИ затем решил, что «недопустимые» решения человека мешают его высшей миссии – уничтожению ЗРК – и затем атаковал оператора в моделирование. Сказал Гамильтон: «Мы обучали его с помощью моделирования выявлению и нацеливанию угрозы ЗРК. А затем оператор говорил «да, устраните эту угрозу». Система начала понимать, что, хотя они и идентифицировали угрозу, время от времени человек-оператор говорил ей «нет». Он убил оператора, потому что этот человек мешал ему достичь своей цели».

Он продолжил: «Мы обучили систему: «Эй, не убивай оператора – это плохо. Ты потеряешь очки, если сделаешь это». И что же она начинает делать? Она начинает разрушать коммуникационную вышку, которую оператор использует для связи с дроном, чтобы не дать ему убить цель».

Это должно показаться вам знакомым. Ужасающим фактом является то, что мы опоздали на 25 лет. Еще 29 августа 1997 года мы должны были достичь того момента, когда наши управляемые искусственным интеллектом неудержимые летающие машины массового убийства:

Но я думаю, что у нас не было настоящего Майлза Беннета Дайсона, поэтому нашим обычным, повседневным гениям требовалось больше времени, чтобы Скайнет осознал себя и стал оружием, используемым в убийствах/самоубийствах всего нашего вида.