Сиолошная

Перечитывал Claude 4 System Card и задумался как быстро сайфай стал реальностью.Релиз очередной модели буквально выглядит так:- Да, помогает найти оружейный плутоний, но пока не очень успешно. Можно не волноваться.- В 84% случаев при угрозе отключения шантажирует разработчика. Но только если считает это необходимым, так что всё окей.- Тайно копирует свои веса и пытается сбежать, но достаточно редко. И только в исключительных сценариях, обычно пользователи о таком не спрашивают. Мы вроде бы пока можем предотвратить такие попытки сбежать, так что сойдет.- Apollo Research заключили, что Claude Opus 4 способен стратегически вводить в заблуждение как ни одна модель раньше. Но они сами просили её делать плохие вещи. Да и вообще у них был ранний чекпоинт. Мы долили в трейн датасетов, чтобы так не было. Правда новую версию не проверяли, но должно быть норм.- Врет и скрывает пока что очень неумело, всё сразу видно.- Проявляет неожиданное рвение к самосохранению и самостоятельность, но пока ничего плохого в этом не заметили.Вердикт: выкатываем.То есть мы за год-два перешли от "да что этот т9 может сделать?" до "вроде бы сможем поймать если попытается сбежать."

Марк Чен, главный научный сотрудник OpenAI, разослал сотрудникам внутреннее письмо с обещанием дать жесткий отпор Meta в борьбе за топ-исследователей. Это после того, как Марк Цукерберг переманил четырех ведущих специалистов OpenAI в свою лабораторию сверхинтеллекта."У меня сейчас такое ощущение, будто кто-то вломился в наш дом и что-то украл", — написал Чен в Slack. По его словам, Meta предлагает бонусы за подписание контракта до $100 млн, а сам Цукерберг лично связывается с потенциальными рекрутами.Чен пообещал, что работает с Сэмом Альтманом "круглосуточно", пересматривает зарплаты и ищет "креативные способы признания и вознаграждения лучших талантов". При этом он подчеркнул: "Хотя я буду бороться за каждого из вас, не буду делать это ценой несправедливости к другим".В письме также содержались сообщения от семи других руководителей исследовательского направления с призывами обращаться к ним при получении предложений от Meta: "Если они давят на вас или делают нелепые взрывающиеся предложения, просто скажите им отвалить".Ситуация усугубляется тем, что сотрудники OpenAI работают по 80 часов в неделю, и компания вынуждена закрыться на неделю для отдыха. Чен предупредил, что Meta воспользуется этим для давления на сотрудников.Несмотря на борьбу за таланты, Чен признал, что OpenAI слишком увлеклась "регулярными запусками продуктов и краткосрочным сравнением с конкурентами", вместо фокуса на достижении искусственного общего интеллекта: "Это главный квест, а стычки с Meta — побочный".Вообще, вся закончившаяся неделя прошла под знаком сообщений об усилиях Meta по найму сотрудников OpenAI — упомянутые четверо это ведущие разработчики o1, o3, o4-mini и так далее. При этом руководители Meta даже прокомментировали, что никаких 100 млн они не предлагали, причем их предложения сопровождались контрпредложениями OpenAI. Не знаю, короче, кто показал Закербергу советский мультик "Летучий корабль", но он явно воплощает принцип Полкана — "Построишь? — Куплю!".https://www.wired.com/story/openai-meta-leadership-talent-rivalry/

Вам наверное не интересно, но вы теперь знаете, что новый operator.chatgpt.com смог зайти от моего имени на Кинопоиск и поставить единицы 10 фильмам Сарика Андреасяна из 38 – и пока я это пишу он продолжает ставить низкие оценки 28 оставшимсяИдеальный бенчмарк пройден

Загрузки iPhone App Store по всему миру за последние 28 дней:ChatGPT: 29,551,174TikTok + Facebook + Instagram + X: 32,859,208🔼

====Пост выше (разбитый на два) написан совместно мной и o3 / o3 Pro. Прощупывал почву, было интересно узнать, как модель может подражать моему стилю + писать интересно, но с опорой на конкретные материалы. Суммарно времени потратил больше, чем если бы писал сам, но на то это и эксперимент.Некоторые обороты из черновиков я прям полюбил, очень понравились, захотелось поделиться:— «Но Баумоль же!» — возразит экономист: мол, часть профессий остаётся неавтоматизируемой и тянет рост вниз. (это что отсылка к Паше Комаровскому?)— ну, банки и фонды беременную корову видели: под залог чиповых заводов и налоговых льгот — Конечно, GATE — не хрустальный шар.— Триллион — не фокус-покус и не «сдуваться к 2030-му».— Пока критики молчат, бульдозеры в Аризоне заводят моторы. (ахаххахаха)— «технопарки на триллион» — не роскошь, а минимально жизнеспособный билет на рынок будущего— GATE гоняет этот параметр