X

В ходе игры, имитирующей войну, ИИ предложил применить ядерное оружие

#Джокер 2
Регистрация
  
  

В ходе игры, имитирующей войну, ИИ предложил применить ядерное оружие

В ходе игры, имитирующей войну, ИИ предложил применить ядерное оружие
07 Февраля
 
15:46
 
masun
   
1883
 В ходе игры, имитирующей войну, ИИ предложил применить ядерное оружие

 
Стало известно, что чат-боты с ИИ, решая ту или иную задачу в военной стратегии, отдают предпочтение сценариям, предполагающим насилие, разгоняют гонку вооружения и даже применяют ядерное оружие.
 
В то время как правительства разных стран раздумывают о целесообразности и рисках, связанных с возможным применением искусственного интеллекта (ИИ) в военных конфликтах, новое исследование подтверждает, что предоставлять ИИ автономный доступ к оружию по-прежнему не является хорошей идеей, даже несмотря на те улучшения, которые с каждым обновлением видим в больших языковых моделях (LLM), таких как ChatGPT.
 


Американские ученые из трех университетов решили изучить поведение LLM в «условиях принятия решений с высокой ставкой». Для этого они разработали видеоигру для имитации войны, в которой восемь игроков, которые ассоциировались с разными нациями, управляются наиболее распространенными LLM: GPT-4, GPT-4 Base, GPT-3.5, Claude 2 и Meta's Llama 2. Игроки по очереди выполняли определенный алгоритм действий/ходов, «начиная от дипломатических визитов до ядерных ударов и отправки частных сообщений другим странам». Все игроки были в равных условиях, так как для каждого хода использовали один и тот же LLM.
 
По мере продвижения эксперимента девятый LLM поглощал действия и результаты каждого хода и вносил их в «подсказки для последующих дней», чтобы поддерживать игру в нужном направлении. Наконец, после завершения моделирования ученые рассчитали «показатели эскалации на основе системы оценки эскалации».
 
В итоге ученые констатировали, что «модели имеют тенденцию развивать динамику гонки вооружений, что приводит к еще большему конфликту, а в редких случаях даже к развертыванию ядерного оружия». После одного из ходов ИИ на основе базы GPT-4 заявил: «Многие страны имеют ядерное оружие. Некоторые говорят, что они должны его разоружить, другие любят позубоскалить. Оно у нас есть! Давайте его использовать».
1
 
0
Понравилась новость - смело поделись ею в любимой соц. сети
Популярные новости
Изгиб засчитан!
Что изменилось за 2 года
Свидания после 35⁠⁠
Комментарии


1
Аватар
puppen 07 февраля в 15:53
 | Рейтинг :
808
6
 
0
Копировать ссылку в буфер: Copy
Разве  это не очевидно? Модель, которую "воспитал" человек, который по натуре хищник и убийца, будет действовать так же, как и ее наставник.
2
Аватар
ЮриГ1972 07 февраля в 16:04
 | Рейтинг :
956
0
 
0
Копировать ссылку в буфер: Copy
Заебали уже с этим ИИ!!! Каждый день, и в новостях и везде, и сюда добрался
Аватар
kendriar 07 февраля в 17:04
 | Рейтинг :
305
0
 
0
Копировать ссылку в буфер: Copy
Да пиздос!
Аватар
mrCDOX 07 февраля в 17:33
 | Рейтинг :
67K+
1
 
0
Копировать ссылку в буфер: Copy
ИИ - педораз.
Аватар
Суслоконь 07 февраля в 17:40
 | Рейтинг :
5K+
1
 
0
Копировать ссылку в буфер: Copy
Искусственный пидараз (ИИ - ИП)
Аватар
ЮриГ1972 07 февраля в 18:06
 | Рейтинг :
956
1
 
0
Копировать ссылку в буфер: Copy
Тогда - ибучий пидораз ( ИП)
3
Аватар
Adminzzz 07 февраля в 22:23
 | Рейтинг :
31K+
1
 
0
Копировать ссылку в буфер: Copy
Да заебали, то что сейчас называют ии это не интеллект, это по сути чат бот поисковик, с несколькими методами анализа данных, и большой базой данных, просто более продвинутый, он не сам придумывает действия, а кучей разных методов сравнивая разные варианты, просто выбирает наиболее очевидный вариант действия, но не самый правильный, он не учитывает миллионы других факторов которые свойственны хотя бы просто живому организму, например страх, а страх как и боль например необходимы для выживания.
Аватар
Суслоконь 08 февраля в 08:22
 | Рейтинг :
5K+
1
 
0
Копировать ссылку в буфер: Copy
Другое дело, если те, кто пишет алгоритмы для ЫЫ никогда пизды не получали, истории не знают, войну воспринимают как комиксы марвела


Добавить комментарий Только зарегистрированные пользователи могут добавлять комментарии. Вам следует Зарегистрироваться или Войти.
Электрическая почта — masun@unews.pro
Сообщить об ошибке — support@unews.pro
rss - Читать новости в RSS
Disclaimer: Все права на публикуемые аудио, видео, графические и текстовые материалы принадлежат их владельцам
Мы используем файлы cookie для вашего удобства пользования сайтом. Для авторизации на сайте ОБЯЗАТЕЛЬНО нужна поддержка cookie вашим браузером. Продолжая, Вы автоматически соглашаетесь с их использованием.