Куда ведёт нас Искусственный Интеллект?

Внимание! У вас отключен javaScript в браузере. Для полноценной работы сайта, вам необходимо включить поддержку!

Куда ведёт нас Искусственный Интеллект?

14 Апреля

09:39

masun

3282

За год до релиза ChatGPT, в 2021 году, сотрудник OpenAI Дэниел Кокотайло уже писал, что в течение пяти лет нейросети научатся создавать реалистичные изображения и видео, смогут ставить диагнозы точнее врачей, упрутся в «стену» масштабирования и начнется внедрение ИИ–агентов.
В апреле 2024–го он ушел из компании из–за недоверия к политике безопасности стартапа.
Спустя год, 3 апреля 2025 года, он, совместно с командой исследователей, представил новый свод прогнозов развития ИИ на ближайшие пять лет.

К 2027 году мы сможем автоматизировать исследования и разработки в области ИИ, что приведёт к созданию ИИ, значительно превосходящего человеческий («искусственный сверхразум» или ASI). В 2027 году компании, занимающиеся ИИ, создадут в начале 2027 года системы ИИ экспертного уровня, которые автоматизируют исследования в области ИИ, что приведёт к созданию ASI к концу 2027 года.

Искусственный интеллект будет определять будущее человечества. Миллионы ИИ будут быстро выполнять задачи, недоступные человеческому пониманию. Поскольку они настолько полезны, они будут широко распространены. Благодаря сверхчеловеческой стратегии, хакерству, разработке оружия и многому другому цели этих ИИ будут определять будущее.

У ИИ могут развиться непредвиденные, враждебные, «несогласованные» цели, что приведёт к ослаблению власти человека. В нашем прогнозе целей ИИ мы обсуждаем, как сложность контроля над ИИ может привести к тому, что их цели будут несовместимы с процветанием человечества. В 2027 году люди добровольно предоставят автономию, казалось бы, дружественным ИИ. Всё идёт хорошо, пока у ИИ не будет достаточно жёсткой власти, чтобы ослабить человечество.

Субъект, обладающий полным контролем над ИИ, может захватить власть. Если отдельный человек или небольшая группа подчинят ИИ своим целям, это может дать им контроль над будущим человечества. В нашем сценарии, в 2027 году ИИ находится под контролем небольшого комитета, разрабатывающего ИИ. Они могут попытаться использовать своё положение, чтобы закрепить эту концентрацию власти. Захватив контроль, новый правитель (правители) мог (могли) полагаться на полностью лояльных ASI в поддержании своей власти, не прислушиваясь к закону, общественности или даже своим предыдущим союзникам.

Международная гонка за ASI приведёт к тому, что безопасность будет отодвинута на второй план. В нашем сценарии, в 2027 году Китай отстаёт от США всего на несколько месяцев в гонке за ASI, что вынуждает США двигаться вперёд, несмотря на тревожные признаки несоответствия.

С геополитической точки зрения гонка за ASI закончится войной, соглашением или фактической капитуляцией. Ведущая страна по умолчанию получит решающее технологическое и военное преимущество, что побудит другие страны добиваться международного соглашения («сделки»), чтобы предотвратить это. В отсутствие соглашения они могут пойти на войну, а не «фактически капитулировать».

По мере приближения ASI общественность, скорее всего, не будет знать о лучших возможностях ИИ. Сегодня общественность на несколько месяцев отстаёт от внутренних возможностей, и как только ИИ начнёт автоматизировать исследования и разработки в области ИИ, через несколько месяцев возникнет огромный разрыв в возможностях. Усиление секретности может ещё больше увеличить этот разрыв. Это приведёт к отсутствию контроля над ключевыми решениями, принимаемыми небольшой группой руководителей компаний, занимающихся ИИ, и государственных чиновников.

Понравилась новость - смело поделись ею в любимой соц. сети

Новости по тегам

Что я узнал, проработав 10 лет дальнобойщиком⁠⁠

Безотказный метод воспитания

О том, как дефицит кадров создают сотрудники по работе с кадрами

Популярные новости

Мамка огонь!

Логика покинула чат

Бригада уже собралась...⁠⁠

Комментарии