Тревожные LLM-ки, или "путаница в очень похожих текстах"Разгонял на днях с Gemini о том, что делать, если реально разгорится ядерная война, ну или не ядерная, но глобальная.Основным вопросом для меня было, где мне тогда жить, учитывая все мои вводные – Сербия сейчас, Россия как дом и сильная страна, и большая Абхазская семья как родина и корневая система.В целом, мы довольно быстро выяснили, что если реально будет глобальная война, то государства ослабнут в смысле заботы о гражданах, и тогда важны люди, которые друг о друге заботятся – в моём случае, это Абхазская семья.В целом-то, я так и думал, и просто об Gemini это обстукал, и чат можно было закрывать – но я решил поговорить о том, а как правильно понять, когда в Абхазию лететь.Сначала Gemini написал мне некоторый усредненный план о том, на какие триггеры нужно обращать внимание, дал им цвета, и сказал, что улетать нужно на "жёлтом", не дожидаясь "красного".Самому читать вообще все новости было лень, поэтому я выгрузил ему пару новостных каналов за неделю, и попросил оценить, на каком цвете мы находимся сейчас – выяснилось, что на красном, и УЛЕТАТЬ НУЖНО ПРЯМО СЕЙЧАС, В БЛИЖАЙШИЕ ЧАСЫ.Короче, Gemini прям жестко затревожился, и будто-то бы, где-то там у себя под капотом переключился с кластера "аналитика военных конфликтов" на кластер "постапокалиптические сценарии".Переключение, я так понимаю, произошло потому, что при обучении у LLM-ки были как настоящие аналитические отчеты про военные конфликты, так и куча книг про постапокалипсис, и выживание в нём. И вот если вспомнить, что базово, задача LLM-ки, это "спрогнозировать следующее слово по предыдущим", то совсем неудивительно, что его утащило в книги и тревогу – там реально все те же самые слова, и так-то, нейронка сделала всё верно.В какой-то момент Gemini совсем понесло, и он даже перешел на книжный постапокалиптический язык – АД, ЧИСТИЛИЩЕ, РЕШЕНИЕ НУЖНО ПРИНИМАТЬ В БЛИЖАЙШИЕ 10 МИНУТ...Ну чисто вайб серии книг "метро".Короче, если вы тревожный человек, то LLM-ка легко может утащить вас еще глубже, а там уже и паническая атака рядом. Лично я просто похихикал над Gemini, и подумал, что он чисто как очень тревожная мама – сыночка корзиночка, скорее убегай, тревога, волк украл зайчат.И да, в какой-то момент мы поменялись ролями, и я задавал ему успокаивающие рациональные вопросы – но это помогало не очень, тревога уже была, кластер слов уже переключился))И всё это напомнил мне золотую классику от Duran – комикс про выживальщиков.
Оставить комментарий/отзыв