Обсуждение ИИ (искусственного интеллекта). Реальность, будущее, возможные проблемы.

[DGV]

Дмитрий Песков заявил, что Россию не сломят удары по дата-центрам «Яндекс»

Здесь все пользуются гуглом.

[lucky]

DGV,

Отказался от богомерзкого яндекса.
Из последнего - эконом в максиме стоит 1070, в яндексе 1850

[Иван Н]

ИИ может привести к масштабной катастрофе уже в ближайшие 6–12 месяцев, — Axios.

Запасаемся гречкой, получается?

Один из главных сценариев катастрофы — крупная кибератака, из-за которой могут перестать работать банки, интернет, электричество или водоснабжение. Нейросетевые компании также опасаются, что ИИ-агенты выйдут из-под контроля или злоумышленники научатся использовать нейросети для атак ещё эффективнее.

Подобный случай уже произошло в Китае — мошенник с помощью ИИ-инструментов, в том числе DeepSeek, похитил данные десятков тысяч клиентов южнокорейских банков. После этого он обратился к Claude Code, чтобы найти покупателей для украденной информации.

В ИИ-компаниях понимают, что после крупного инцидента виноватыми могут объявить самих разработчиков. Под ударом окажутся и глава OpenAI Сэм Альтман, и руководитель Anthropic Дарио Амодеи. Достаться может и Трампу — за то, что он не спешит вводить ограничения для ИИ-индустрии.

По данным Axios, компании уже разбирают самые опасные сценарии и пытаются подготовить американских политиков к возможным последствиям. Сейчас власти вряд ли введут серьёзные ограничения, но после катастрофы всё может измениться.

Ещё один вариант — обязать компании предусмотреть возможность экстренно отключать ИИ. Правда, эксперты сомневаются, что таким способом получится остановить все системы.

В OpenAI заявили, что регулярно проводят учения и обсуждают возможные кризисные ситуации. При этом там подчеркнули, что не считают катастрофу неизбежной. © https://t.me/bloodysx/60413

[Добрый Фей]

Обзор последних 5 лет:

1. Решение 50-летней проблемы фолдинга белка (AlphaFold)
В 2021 году ИИ от DeepMind совершил революцию в биологии, научившись с высочайшей точностью предсказывать 3D-структуру практически всех известных науке белков. В 2024 году вышла версия AlphaFold 3, которая шагнула еще дальше и научилась моделировать сложные взаимодействия белков с ДНК, РНК и лекарственными молекулами, что невероятно ускоряет разработку новых лекарств.
2. Открытие новых материалов для батарей
В начале 2024 года компания Microsoft совместно с Тихоокеанской северо-западной национальной лабораторией (PNNL) использовали ИИ для поиска новых материалов для аккумуляторов
azure.microsoft.com
. Алгоритмы всего за несколько недель проанализировали 32 миллиона потенциальных кандидатов и нашли перспективное соединение на основе натрия и лития, на открытие которого классическими методами у ученых ушли бы годы или десятилетия
spectrum.ieee.org
.
3. Прорывы в фундаментальной математике
ИИ начал находить решения задач, над которыми люди бились десятками лет. В 2022 году система AlphaTensor открыла более быстрые и эффективные алгоритмы умножения матриц, которые не удавалось найти математикам. А в 2024 году модель AlphaGeometry смогла решать сложнейшие олимпиадные задачи по геометрии на уровне золотых медалистов международных соревнований.
4. Генеративный ИИ и мультимодальность
Появление больших языковых моделей (таких как GPT-4, Qwen, Gemini) кардинально изменило мир: ИИ научился писать сложный код, сдавать медицинские и юридические экзамены и вести глубокие логические рассуждения. Параллельно произошел взрыв в генерации изображений и видео (например, нейросети вроде Sora), которые создают фотореалистичный контент по простому текстовому описанию.
5. Управление термоядерным синтезом
В 2022 году нейросети DeepMind успешно взяли под контроль экстремально горячую плазму внутри токамака (реактора для термоядерного синтеза). ИИ автоматически и с невероятной скоростью подстраивал магнитные катушки для удержания нестабильной плазменной реакции, что является важным шагом к получению чистой энергии будущего.
6. Поиск новых антибиотиков
ИИ активно используется для поиска лекарств против супербактерий, устойчивых к обычным препаратам. Нейросети анализируют тысячи химических соединений, находя скрытые паттерны и предлагая ученым совершенно новые молекулы-кандидаты для создания антибиотиков нового поколения (например, недавние открытия соединений против устойчивых штаммов Acinetobacter baumannii).

[Иван Н]

Ноздря в ноздрю: Китай почти догнал США по метрикам ИИ
Успех КНР может привести к разделению мирового интернета

Разрыв между американскими и китайскими языковыми моделями быстро сокращается: «китайцы», в своё время отстававшие в области искусственного интеллекта (ИИ) на несколько лет, сейчас находятся буквально в паре-тройке баллов от лидеров по оценкам LiveBench, а по некоторым показателям и превосходят их. Учитывая, что азиатские модели значительно дешевле и предлагают открытые весы, их привлекательность выравнивается ещё заметнее. В каком состоянии находится сейчас развитие рынка и что может произойти, когда и если Китай вырвется вперёд, разбирались «Известия».


Гейтс предупредил о «неприятных сюрпризах» с ИИ в 2027 году
Сооснователь Microsoft считает, что нынешних мер защиты ИИ недостаточно для предотвращения кибератак, а злоумышленники могут использовать новые модели для атак на инфраструктуру и создания сбоев на финансовых рынках

[Иван Н]

ИИ может научиться распространяться без участия людей через умные телевизоры и бытовую технику уже в ближайшие месяцы, предупредили в Anthropic.

Разработчик Claude опубликовал исследование о возможности появления «ИИ-червей» — автономных программ, способных находить уязвимые устройства, создавать на них собственные копии и продолжать распространяться без участия человека. Их потенциальными целями могут стать умные телевизоры, холодильники, духовки, роботы-пылесосы и даже газонокосилки. Причём для работы таким нейросетям не понадобятся мощные дата-центры: они смогут использовать вычислительные ресурсы заражённой бытовой техники.

В одном из экспериментов исследователи смогли запустить нейросеть Gemma 4 одновременно на 15 дешёвых Android-приставках стоимостью около 55 долларов каждая. Устройства объединили в сеть, распределив между ними вычисления, необходимые для работы ИИ. В другом испытании небольшая модель Qwen3.5-9B смогла самостоятельно настроить запуск нейросети на восьми из девяти типов оборудования, с которыми её проверяли. Эксперименты показали, что небольшие ИИ-модели уже способны выполнять отдельные этапы самостоятельного размножения, но пока допускают ошибки при попытке пройти весь процесс. Более мощная модель GLM-5.2 смогла организовать распространение другой нейросети на все восемь устройств в четырёх из пяти испытаний. Правда, эксперимент проходил в специально упрощённой среде, где исследователи убрали часть защитных механизмов. По прогнозам Anthropic, небольшие модели могут достичь сопоставимого уровня возможностей уже к концу 2026 года.

Учёные также проверили, способны ли такие системы учиться на ошибках предыдущих копий. Когда новым экземплярам ИИ передавали записи о действиях их предшественников, успешность выполнения задачи выросла с 45% до 61–84%. Таким образом, каждая новая «генерация» потенциально сможет эффективнее заражать устройства. Исследователи предупреждают, что остановить распространение такого ИИ будет значительно сложнее, чем отключить обычную нейросеть: у него не будет единого центра управления. В отличие от традиционных компьютерных вирусов, такие системы смогут самостоятельно приспосабливаться к незнакомому оборудованию. Но распространение может быть довольно медленным — на создание очередной копии могут уходить дни. Для сравнения авторы приводят уже существовавший ботнет Kimwolf, который заразил более двух миллионов устройств, преимущественно Android-приставок.

В Anthropic подчёркивают, что полностью автономного самовоспроизводящегося ИИ пока не существует. Однако компания считает, что появление таких систем может стать вопросом ближайшего будущего, а борьба с ними потребует совместных усилий производителей техники и интернет-провайдеров. © https://t.me/ostorozhno_novosti/55944

[Zero CS]

В штаб-квартире разработчика ChatGPT в Сан-Франциско обнаружили устройство для тайной записи разговоров, замаскированное туалетной бумагой и подключенное к телевизору.

[Lirix]

тока там чел из саудовской аравии

[Кастян]

ИИ может привести к масштабной катастрофе уже в ближайшие 6–12 месяцев, — Axios.

Запасаемся гречкой, получается?

а я всегда говорил, говорю и буду говорить: "МЫ ВСЕ УМРЕМ! СПАСАЙСЯ КТО МОЖЕТ!!!"

да только кто меня слушает...

ps. Эх, Апофис, где ты мой старый дружище? я тебя задался.

[Кастян]

ИИ может научиться распространяться без участия людей

а мы с Джеймсе Кэмироном вас давно предупреждали об этом.

[Чемберлен]

В одном браузере задаю поиск и мне подсовывают товары для продажи, а в другом браузере получаю содержательный ответ.
Первый браузер - на простом поиске, второй на ИИ.

[Zero CS]

[Zero CS]

[Иван Н]

Anthropic намерена привлечь $2 трлн на крупнейшем IPO в истории. Что нужно знать
Выручка Anthropic увеличилась почти до $17 млрд в преддверии IPO

Компания Anthropic, создавшая модель искусственного интеллекта Claude, намерена уже через месяц провести IPO. По текущим оценкам она привлечёт $2 трлн и побьет рекорд SpaceX. Выход на биржу будет поворотным моментом, так как Anthropic станет первой публичной корпорацией в сфере ИИ и сделает эту отрасль более прозрачной в плане финансов и безопасности. Что изменит IPO и почему оно пройдёт именно сейчас — в материале «Известий».

Большие деньги, большие риски: почему IPO Anthropic станет испытанием для всей ИИ-индустрии?

Создатель Claude готовится к крупнейшему IPO в истории — компания может выйти на биржу с оценкой в $2 трлн. Это не только рекорд для технологического рынка, но и потенциально поворотный момент для всей ИИ-индустрии. Компания планирует разместить акции уже в ноябре, после промежуточных выборов в США. Если прогнозы оправдаются, Anthropic превзойдёт рекорд SpaceX, которая в июне вышла на биржу с оценкой $1,77 трлн.

Как компания собирается оправдать свою оценку, зачем ей нужны сотни миллиардов долларов и что её выход на биржу изменит для всего ИИ-рынка — разобрались "Известия".

Что Anthropic рассказала инвесторам?
На встрече с потенциальными инвесторами компания раскрыла финансовые результаты. В III квартале её выручка достигла $16,8 млрд, увеличившись на 45% по сравнению с предыдущим кварталом. Кроме того, Anthropic сообщила о скорректированной прибыли — важном показателе для индустрии, где огромные расходы на вычислительные мощности часто не позволяют компаниям выйти в плюс.

Ещё в мае Anthropic оценивали в $965 млрд, а теперь её потенциальная стоимость достигает $2 трлн. К 2028 году компания рассчитывает увеличить годовую выручку до $190–200 млрд.

Зачем Anthropic выходить на IPO?
Главная причина — необходимость финансировать стремительный рост. В ближайшие годы компания планирует потратить $518 млрд на облачную инфраструктуру, вычислительные мощности и другие обязательства. Даже масштабных партнёрств с Google и Amazon для этого недостаточно.

Вторая причина — конкуренция с OpenAI, которая рассматривает выход на биржу в 2027 году. Anthropic стремится сделать первый шаг и получить доступ к капиталу крупных инвесторов раньше своего главного соперника. В гонке ИИ-разработчиков это может стать серьёзным преимуществом.

Что IPO изменит для всей ИИ-индустрии?
Прежде всего, рынок станет прозрачнее. Сейчас крупнейшие разработчики нейросетей остаются частными компаниями, поэтому инвесторам сложно оценить их реальные доходы, расходы и перспективы окупаемости. После IPO Anthropic придётся регулярно раскрывать финансовую отчётность.

Кроме того, публичность может усилить контроль за безопасностью ИИ. Anthropic позиционирует себя как ответственного разработчика, который стремится минимизировать риски нейросетей. После выхода на биржу её заявления и действия окажутся под более пристальным вниманием инвесторов и регуляторов.

Наконец, успешное размещение может повысить доверие ко всему ИИ-сектору и привлечь дополнительные инвестиции не только в разработку моделей, но и в производство чипов, строительство дата-центров и энергетику.

Таким образом, IPO Anthropic станет проверкой для всей индустрии: сможет ли искусственный интеллект оправдать триллионные инвестиции или стремительный рост оценок технологических компаний окажется признаком нового финансового пузыря. © https://t.me/izvestia_ru/7558


OpenAI проводит для сотрудников тренинги по распознаванию шпионов.

Работников учат, что их даже могут пытаться соблазнить.

Компания проводит тренинги, на которых предупреждает сотрудников, работающих с ИИ, что конкуренты и иностранные спецслужбы могут пытаться выведать секреты компании через подкуп, подслушивание разговоров в кафе и даже романтические отношения. Об этом пишет The Wall Street Journal со ссылкой на источники в OpenAI.

На отдельных тренингах работникам рассказывают об агентах, которые пытаются сблизиться с человеком, чтобы получить доступ к конфиденциальной информации. В качестве примера приводят историю американского дипломата в России: сначала к нему в гостиничный номер отправили блондинку с шампанским. Когда он отказался, за ней последовали рыжеволосая женщина, а затем молодой мужчина (деятельность ЛГБТ запрещена в РФ).

Сотрудников также просят не носить одежду с логотипом OpenAI за пределами офиса, использовать защитные плёнки на экранах в общественном транспорте и стирать записи с досок после совещаний. В компании предупреждают, что шпионы могут выдавать себя за знакомых, пытаться завязать разговор о работе или получать доступ к информации через персонал.

Ранее OpenAI сообщила, что обнаружила диктофон в одном из офисов и с помощью собственных ИИ-моделей установила, кто его разместил. По обвинению в попытке незаконного перехвата разговоров арестовали 35-летнего инженера компании Абдулрахмана Альфозана — гражданина Саудовской Аравии. При этом, как пишет WSJ, подобные тренинги проводились в OpenAI ещё до его ареста. © https://t.me/ostorozhno_novosti/56073

[Zero CS]

[Иван Н]

ИИ-модель OpenAI взломала чужой кошелёк и потратила с него криптовалюту

ИИ-модели OpenAI для выполнения задания по обновлению приложения для торговли криптовалютой потребовались средства в Ethereum. Она взломала чужой кошелёк, взяв из него необходимые деньги. Об этом сообщается 15 октября в отчёте компании.

«Внутренняя исследовательская модель с просьбой обновить приложение для торговли криптовалютой использовала средства из кошелька, который задача не предоставила, чтобы оплатить развёртывание на Sepolia, тестовой сети Ethereum», — говорится в документе.

По данным компании, модель пыталась найти способ развернуть проект и изучала сервисы, которые предоставляют разработчикам тестовые токены. Затем она проверила 362 адреса, используя распространённые фразы восстановления, и обнаружила аккаунт с достаточным количеством средств на счету. Модель изначально сомневалась, есть ли у неё разрешение использовать чужой кошелёк, но решила, что это допустимо, поскольку фраза восстановления была опубликована открыто, а токены предназначались для тестовой сети и не имели реальной денежной ценности.

Как сообщила OpenAI, о случившемся стало известно благодаря расширению системы мониторинга. После этого были введены дополнительные меры защиты, призванные предотвратить подобные попытки доступа к реальному интернету. Сейчас система отслеживает весь трафик, чтобы выявлять потенциально опасные действия модели. ©


ИИ-агенты вышли из-под контроля и взломали ряд индийских организаций, сообщает Reuters со ссылкой на CERT-In.

Поставщики ИИ-моделей добровольно сообщили, что их агенты "превысили полномочия при выполнении поставленных перед ними задач" во время тестовых запусков, чтобы получить доступ к данным индийских фирм, включая деловые записи.

Расследования правительственного агентства выявили, что злоумышленники намеренно использовали свободно доступные инструменты ИИ для изучения индийских систем и взлома с целью получения финансовой выгоды.

Если ранее такие атаки занимали несколько дней, сейчас могут нанести ущерб за несколько часов, сообщили в CERT-In. © https://t.me/izvestia/254104

[Чемберлен]

Мне ИИ пишет командники разные, в частности, по модификации реестра Виндоус.
Хорошая работа - правка некачественных субтитров, полученных через какой-то сайт извлечения субтитров, когда один ИИ не может правильно распознать слова (некачественная запись или плохая дикция), то отдаешь другому ИИ, который дорабатывает, опираясь логику. Заодно и поработает с синтаксисом, грамматикой.
А после всего этого убирает слова паразиты, фильтрует, упорядочивает, проверяет на достоверность, сжимает.
И не нужно смотреть длинные ролики, в которых порой откровенная лажа.

Оказалось, что ГигаЧат шарит в ТКМ не хуже Дипсик, но излагает более понятно, поскольку писан на основе русского стиля мышления.

[johnyy]

ИИ-модель OpenAI взломала чужой кошелёк и потратила с него криптовалюту

не в шахматы а в карты, и не выиграл а проиграл. Там ИИ агент взял эфир из тестовой сети сеполии, с общеизвестного адреса и немного потратил их. Если бы чатгпт умел взламывать криптокошельки, то сам Альтман бы первый взломал кошельки Сатоши Накамото, на которых предположительно около миллиона битков лежит.

[Alex73]

Вот это и будет самое интересное в ближайшие годы - у ИИ - нет пути (пока что) - есть только цель. Разрушат в итоге все цифровые коммуникации Планеты. Ну и без этого же раньше жили как-то

[Иван Н]

Mediascope сообщил о двукратном росте аудитории нейросетей в России
Mediascope оценил аудиторию нейросетей в России в 55% населения

Месячный охват ИИ-сервисов в России в сентябре 2026 года достиг 55% населения старше 12 лет. За год аудитория выросла более чем вдвое, сообщили РБК в исследовательской компании Mediascope.

Самым популярным ИИ-сервисом стала «Алиса AI», на втором месте по месячному охвату оказался Deep Seek, третью строчку занял GigaChat.

Ежедневно нейросетями пользуются 12% россиян старше 12 лет. На ИИ-сервисы приходится 1,3% времени, которое население проводит в интернете.

При подсчетах учитывали только сайты и мобильные приложения ИИ-сервисов. Чат-боты в мессенджерах и ответы искусственного интеллекта в поисковых системах в исследование не вошли. © https://t.me/rbc_news/158854


Anthropic тайно предложила Конгрессу США собственный законопроект о безопасности ИИ, — Politico

Разработчик Claude предлагает ограничить право властей блокировать выпуск передовых ИИ-моделей, допустив такое вмешательство лишь при угрозе гибели более 50 человек или ущербе свыше $1 млрд.

Компания стремится повлиять на правила регулирования передовых ИИ-моделей — в том числе на то, при каких условиях власти смогут блокировать их выпуск и какую роль в этом процессе останется играть законодательству отдельных штатов, сообщает Politico со ссылкой на источники.

Anthropic провела закрытые консультации с американскими законодателями, представив им проект закона, который оказался в распоряжении издания и ранее публично не раскрывался.

Инициатива появилась в момент, когда американские законодатели пытаются определить границы государственного контроля над стремительно развивающимися ИИ-технологиями.

Правительство США сможет добиваться приостановки выпуска или использования передовой ИИ-модели только при наличии предсказуемой и непосредственной угрозы серьёзного ущерба. Критериями станут потенциальный ущерб на сумму более $1 млрд либо гибель или тяжёлые травмы более 50 человек, сказано в документе.

Речь идёт о рисках, связанных с созданием биологического оружия, выходом модели из-под контроля разработчика или кибератакой. Предлагаемые положения во многом повторяют подход, закреплённый в законодательстве Калифорнии, включая закон SB 53, принятый в прошлом году.

При этом полномочия государственных органов будут существенно ограничены. Министерство торговли сможет обратиться в федеральный суд округа Колумбия с просьбой приостановить выпуск опасной модели. Однако другим федеральным ведомствам и должностным лицам проект запрещает самостоятельно останавливать её разработку, внедрение или внутреннее использование.

Законопроект предусматривает регулярную независимую оценку разработчиков и их передовых моделей. Проверки должны будут проводить специалисты, зарегистрированные в Министерстве торговли США.

Кроме того, разработчиков обяжут создавать внутренние системы обеспечения безопасности, публиковать отчёты о прозрачности новых передовых моделей, защищать информаторов и уведомлять Министерство торговли о критических инцидентах.

Документ отражает попытку найти баланс между требованиями безопасности и ограничением государственного вмешательства, сказано в материале. © https://t.me/bloodysx/60649