Блуждающий нерв

Пузырь генеративного ИИ начал лопаться, считает Маркус. Он упрекает обучателей крупнейших нейросеток в том, что у них нет внятной бизнес-модели, которая окупила бы гигантские затраты этого сектора. Вложены уже сотни млрд. $, а главный вопрос надежности/галлюцинаций так и не решен, что резко ограничивает применимость технологии. Он и не будет решен, т.к. это неотъемлемое свойство GenAI, настаивает Маркус. В целом он твердит об этом давно, но теперь предрекает крах уже в этом году: “Пользователи потеряли веру, клиенты потеряли веру, венчурные инвесторы потеряли веру”. Возможно, его сподвиг недавний отчет Goldman Sachs “Gen AI: too much spend, too little benefit?”, где проводится та же мысль, более мягкими словами (см. также разбор отчета). Несмотря на ряд успехов GenAI, например, в генеративной (био)химии, можно видеть, как тускнеют ожидания и как меняется тон комментариев, не только у Маркуса. Все наигрались в генерацию картинок/текстов и хотят, наконец, использовать ИИ в реальных задачах. Но этот переход не дается — в силу самой природы GenAI. Ключевой изъян в том, что GenAI беззащитен перед т.н. “выбросами”. Если на входе паттерн, сильно отличный от паттернов в обучающей выборке, на ответ нельзя положиться. Такой ИИ не понимает и не мыслит, он создает новые данные по шаблону старых.Масштабирование не избавит от проблем (см. “AI scaling myths”). Метрики, где ИИ превосходит людей в решении задач, не измеряют интеллект/мышление, а превосходство может быть хрупким. Синтетические данные — не панацея от дефицита данных для обучения, такой маневр быстро ведет к коллапсу, т.к. каждая следующая модель учится не на реальности, а на предсказании реальности предыдущей моделью, и даже малые ошибки итеративно усиливаются. Я бы не использовал слово “пузырь”. GenAI очень интересный инструмент, со временем мы поймем, как сделать его не просто удивляющим, но и полезным. Но отрезвление ожиданий — хороший признак.

☑️ Вышло огромное интервью Лекса Фридмана с разработчиками Neuralink, включая Маска, а также с пациентом, которому имплантировали их BCI. Видео аж на 8 с половиной часов, но в помощь есть транскрипт: на него замедление не распространяется. Хотя и текст за раз не осилить. ☑️ Ars Technica поговорили с Беном Рапопортом, из Precision Neuroscience, бывшим соучредителем Neuralink, который ушел создавать нейроинтерфейс иного типа: тонкую пленку вводят через щель в черепе и кладут на мозг. Бен считает, что для целей BCI проникать в глубину не нужно: “все сигналы, представляющие интерес, возникают в миллиметрах от поверхности мозга”. Недавно Precision уложили на кору мозга человека 4,096 электродов, это рекорд ЭКоГ. ☑️ Is Generative AI in Drug Discovery Overhyped? — Алекс Жаворонков, СЕО Insilico Medicine: “В этой статье я выскажу свое мнение о шумихе и реальности вокруг ИИ-разработки лекарств. Обратите внимание, что я пишу с точки зрения основателя Insilico Medicine, поэтому я глубоко предвзят и противоречив”. — Небольшое, но полезное эссе, почти инструкция.☑️ Главный врач Helius Medical Technologies, компании-продавца стимулятора PoNS (пластина подает эл. импульсы на язык) поясняет, как их устройство используется для лечения пациентов с рассеянным склерозом. Принцип действия: стимуляция языка усиливает нейропластичность в мозге, что способствует укреплению нейронных связей.☑️ Battelle получили от DARPA $22 млн. на разработку технологии, останавливающей повреждение мозга при травме, вызванной взрывом или ударом. Когда голова травмируется, в мозге запускается каскад клеточных и молекулярных событий, как эффект домино. Идея в том, чтобы еще перед боем ввести в военнослужащего препарат, который остановит этот каскад в случае сотрясения, попадания осколка и т.д.

👆Как работает эксперимент выше. Обеим самкам впрыснули в мозг магнитные наночастицы, но ввели разные рецепторы, ионные каналы, для контроля. У “зеленой” мыши в участке гипоталамуса на ГАМК-ергических нейронах есть механочувствительные рецепторы, а у “красной” нет. Именно эти клетки запускают паттерн материнского ухода за младенцами — если их блокировать, самка на мышат даже не взглянет. При включении магнитов частицы начинают ‘щекотать’ механочувствительные рецепторы, чем и активируют клетки. Выбирая, где экспрессировать рецепторы, вы определяете, какой паттерн поведения вы будете вызывать. Авторам удалось выборочно и обратимо контролировать пищевое и социальное поведение, влиять на систему мотивации у свободно подвижных особей. Разработка корейская от IBS, здесь подробнее. Замечу, что у истоков подхода на основе наночастиц и магнитного поля стояла Полина Аникеева, и корейцы ожидаемо на нее ссылаются. Полина когда-то окончила Питерский Политех, а с июля возглавила Department of Materials Science and Engineering at MIT. 👏P.S. Механочувствительные каналы можно открывать и напрямую ультразвуком, обходясь без частиц. В тему свежая разработка от University of Texas: носимый миниатюрный гаджет для транскраниальной стимуляции фокусированным ультразвуком. Весит всего 8.5 грамм, совместим с ЭЭГ. Просто крепится на коже головы. Это лишь крупицы того, что происходит. И в них уже читается намек на будущее.

Где сейчас фронтир нейротеха? Смотрите: две здоровые мышки, самки, просто бездельничают в камере. Затем включаются магниты по периметру камеры, и самка с зеленой меткой вдруг спешит к мышатам, лежащим поодаль, и переносит их в “укрытие”. Вторая самка, с красной меткой, не вмешивается — ей все равно. Ученые запустили у “зеленой” мыши паттерн поведения — заботу о младенцах. Без кабелей и электроники на голове, просто магнитным полем. Они вызывали у мышей и иные виды поведения, в зависимости от того, какие нейроны задействовали. Теперь можно собрать грызунов в одном месте и одновременно включать/выключать разные поведенческие паттерны у разных особей. Бояться пока рано — превратить человека в зомби с помощью магнитов все еще не так просто. А вот к лечению болезней мозга мы стали немного ближе, т.к. метод позволит неинвазивно и выборочно регулировать активность конкретных нейронных контуров.

Никогда мне не нравилась интерпретация Эверетта. На мой взгляд, она порождает слишком сильные парадоксы, а от физики я жду большего изящества. Но зато эти парадоксы вновь и вновь вдохновляют писателей и режиссеров: они строят на этом свои сюжеты. Если вы вознамерились посмотреть сериал “Темная Материя” / Dark Matter, вышедший на Apple TV+, то предлагаю сперва включить эту новую лекцию. Алексей Семихатов говорит о странностях квантовой механики. Без привязки к сериалу, но просмотру “Темной материи” поможет. Сама лекция просто хороша. Если хотите еще сильнее взорвать мозг, от себя добавлю 'знаменитые' статьи М.Б. Менского в УФН на тему связи квантовой физики и сознания. Правда, потреблять их надо с осторожностью, понимая, что это его личная интерпретация.Заодно классика, ключевые труды: 🗞 A. Einstein, B. Podolsky, & N. Rosen (1935) "Can quantum-mechanical description of physical reality be considered complete?" — Phys. Rev. [PDF]🗞 H. Everett III (1957) '"Relative state" formulation of quantum mechanics' — Rev. Mod. Phys. [PDF]🗞 J.S. Bell (1964) "On the Einstein Podolsky Rosen paradox" -- Physics [PDF]