В первом эпизоде 6 сезона Черного Зеркала (Joan is awful) показан хороший пример деградации ИИ.Есть Джоан, оригинальная. Просто человек. Она живёт своей не слишком интересной жизнью. Но она подписывает смс-кой публичную оферту стримингового портала Стримбери (по сути, Нетфликс).И он начинает снимать ее жизнь при помощи её же смартфона и всех умных гаджетов вокруг.Суперкомпьютер обрабатывает это, слегка изменяет сюжет, драматизирует, генерит с лицами актеров и публикует. Все смотрят.Проблема в том, что Джоан в реальности видит этот сериал.А значит и ее копия в самом сериале должна его увидеть. И она видит. Но эта копия сериала основана на жизни уже не реальной Джоан, а ее цифрового двойника в сериале.И получается, что в третьей по глубине вселенной, где живёт Джоан, мир уже более карикатурный. В нем больше преувеличения, больше фарса.И суперкомпьютер, внутри которого создаются все эти миры, хотя и очень мощный, но мощный не бесконечно.А значит и от мира к миру внутри компьютера деградация будет все сильнее и сильнее. Пока генерация не превратится в условные цветовые и аудио пятна, пока вовсе не остановится.Если не смотрели эту серию ещё, посмотрите обязательно.6 сезон - это 2023 год. Чат гпт уже с нами, но ещё не во всю силу. Он даже не близок к тому, что нейросети могут делать сейчас.Но уже тогда нам отлично и очень логично показали (хоть и неявно), неизбежную деградацию новых и новых сгенерированных "миров", каждый из которых основан на предыдущем.Только оригинальный мир такой, какой есть, может обучать нейросеть быть полезной.В том году были проведены исследования. Каждое новое поколение нейросети обучали на данных, созданных предыдущим. И итог был вполне предсказуем. Каждое следующее поколение деградировало.Получается, что на данный момент точно (что дальше будет неясно), все, что нейросети могут - это копировать реальный мир. Даже на суперкомпьютерах.Но сейчас в сети огромное количество фейков. Если ИИ продолжат обучать на свободной информации, ИИ неизбежно станет бесполезным.И тут мы приходим к необходимости регуляции ИИ. Но не как ограничение свобод корпораций. А как необходимая мера для существования и развитии самой технологии.А ещё мы приходим к тому, что есть только один настоящий мир. Наш, вот этот вот. И все, что мы хотим сгенерировать по аналогии, может быть основано только на нем.Живите своими жизнями. Они лучше, чем любая генерация. Даже самая красивая, завораживающая и притягательная.
Оставить комментарий/отзыв