Сперва обширная цитата:

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Забавно, но с нейросетями похоже происходит то же самое что с человечеством в целом: чем больше доступа к всеобщей информации у дебилов, тем дебильнее всё общество. И как следствие формула: “умным следует запретить думать, потому что это ущемляет права тупых“.

Ну и сразу же вывод для нейросетевого “золотого миллиарда” – надо фильтровать поток информации от дебилов достуный нейросетям. И тут уже включается второй закон термодинамики: “В изолированной системе энтропия либо остаётся неизменной, либо возрастает”.

Больше тут комментировать нечего.