Верить нельзя никому

Однажды Роберт Оппенгеймер и Андрей Сахаров создали устройства невиданной силы. И после этого посвятили свои жизни тому, чтобы ограничить использование этих устройств.
 
Люди, которые теперь развивают искусственный интеллект, пока своей ответственности не понимают. А может понимают, но не осознают. А может осознают, но не хотят признавать.
 
Но чем дальше развивается технология, тем больше проявляются непредвиденные побочные эффекты.
 
Вот, например, знаменитый на весь мир генеративный чат создает свои убедительные тексты на основе материалов из интернета. Но с тех пор, как он работает, в интернете появилось огромное количество текстов, которые создал сам этот генеративный чат. И, разумеется, все новые производимые им тексты будут основаны, в том числе, и на этих созданных им самим текстах. Так сказать, первая производная. А ведь искусственный интеллект продолжает работать. И вторая производная неизбежна. И прецеденты уже случаются. Например, один американский юрист попросил искусственный интеллект подготовить материалы к суду. И этот самый генеративный чат немедленно ему подготовил материалы из прецедентов, которых… не было. Ну просто в интернете было написано. Теперь адвокату светит суд за поддельные доказательства. А всем остальным время задуматься над тем, как нам быть дальше.
 
Один депутат Государственной Думы, кстати, уже задумался. И предложил специально маркировать контент, созданный нейросетями. Правда не пояснил, как. Как отличить такой контент от любого другого контента в интернете. В том числе и от контента, созданного сумасшедшими и конспирологами. Которых в этом самом интернете вполне предостаточно.
 
И всё идет к тому, что уже буквально через несколько лет искусственный интеллект будет массово производить невероятную дичь. Но она будет выглядеть столь убедительно, что сторонники новой хронологии, плоской Земли, а также верующие в чипирование через вакцины будут казаться старыми добрыми городскими сумасшедшими.
 
Потому что с ними хотя бы всё понятно.
 
А вот распознать дичь в убедительном — это уже совершенно другое, интеллектуальное дело.
 
От которого искусственный интеллект нас и отучает.