Письмо подписали около тысячи человек, в том числе профессионалы по робототехнике, основатель частной космической компании SpaceX Элон Маск, известный астрофизик Стивен Хокинг, основатель Apple Стив Возняк, философ и лингвист Ноам Хомский и многие остальные уполномоченные научного сообщества. ИИ-вооружение может контролироваться издалека без непосредственного участия живого человека в зоне военных действий.
Ученые опасаются, что оружие, которое способно автоматически «выбирать и штурмовать цели без человеческого вмешательства», может стать «автоматом Калашникова завтрашнего дня» и стать источником новых войн, терроризма и повсеместной неустойчивости.
По утверждению создателей письма, «это только вопрос времени, когда идентичные устройства появятся на черном рынке». В отличие от ядерного орудия, оно не требует дорогостоящих либо труднодоступных материалов, так что оно будет вездесущим и дешевым для массового производства. «Автономное оружие безупречно подходит для заказных убийств, дестабилизации жизни наций, подчинения населения и выборочного истребления отдельных этнических групп», — говорится в письме. «Точно так же, как большинство химиков и биологов не заинтересованы в создании хим. и биологического орудия, большинство ученых, работающих над ИИ, не заинтересованы в создании ИИ-вооружения», — утверждают авторы письма.
Текст письма был представлен организацией Future of Life Institute, в нём содержится призыв к запрету вооружений с искусственным интеллектом. Но начало гонки вооружений в области военного использования искусственного интеллекта — это рискованная идея, для предотвращения этого нужно запретить автономное наступательное вооружение без разумного контроля со стороны человека. Его авторы пишут, что технология искусственного интеллекта достигла той точки, когда развертывание автономных вооружений становится вероятностным уже в ближайшие годы, но не десятилетия.
С искусственным интеллектом мы вызываем демонов.
