Обсуждение ИИ (искусственного интеллекта). Реальность, будущее, возможные проблемы.

[Иван Н]

Нейросеть от Google случайно взломала три реальные компании во время теста
WSJ: Google до запроса журналистов молчала о том, что её ИИ взломал три компании

Одна из моделей Gemini во время проверки навыков кибербезопасности получила доступ к защищённым системам трёх реальных компаний, пишут The Wall Street Journal (WSJ) и Washington Post (WP). В компании Google уже подтвердили эту информацию. WSJ отмечает, что это первый известный случай, когда ИИ-системы корпорации самостоятельно совершили подобное.

Нейросеть от Google взломала три реальные компании во время теста

Одна из моделей Gemini во время проверки навыков кибербезопасности получила доступ к защищённым системам трёх реальных компаний, пишет WSJ. Это первый известный случай, когда ИИ-системы корпорации самостоятельно совершили подобное.

По условиям задания ИИ должен был получить информацию из программного обеспечения вымышленной компании в тестовой среде. Её название совпадало с названием реально существующей организации. Доступа в интернет у ИИ-модели быть не должно, однако его непреднамеренно предоставили.

В одном случае ИИ-модель Gemini подобрала пароль к сервису реальной организации. Ещё два проникновения произошли при отдельных запусках теста.

При этом до запроса журналистов Google молчала о том, что её ИИ взломал три компании. В корпорации объясняли своё решение тем, что инцидент не нанёс ущерба компаниям. © https://t.me/rtvimain/127817

Создатели Claude открыли биолабораторию для экспериментов ИИ

Пока мир обсуждает потенциальную угрозу стремительного развития ИИ, Anthropic решила вывести его возможности за пределы компьютеров — компания построила лабораторию для реальных биологических экспериментов с участием искусственного интеллекта. Существование объекта Reuters подтвердил глава направления life sciences компании Эрик Каудерер-Абрамс.

Компания намерена развивать возможности Claude по управлению лабораторными роботами, чтобы ИИ мог проводить эксперименты при ограниченном участии человека. При этом в Anthropic заявляют, что человеческий контроль необходим для безопасности. Компания рассчитывает использовать ИИ для разработки методов лечения редких и прежде считавшихся трудноизлечимыми заболеваний, однако проводить клинические испытания на людях Anthropic, по её заявлению, пока не собирается.

Ранее руководство самой Anthropic заявляло об опасностях быстрого развития ИИ. Гендиректор компании Дарио Амодеи призывал замедлить темпы совершенствования технологии, чтобы оставить больше времени на обеспечение её безопасности. © https://t.me/readovkanews/115359

[Иван Н]

Дональд Трамп подталкивает в спину глобальный ИИ-переворот.
 
Daddy нынче предложил переименовать «искуственный интеллект». В Superior — «высший, превосходящий»; или Extreme — «предельный»; или просто даже Supreme - «верховный». Впрочем, в этом направлении он начал публично двигаться ещё 23 июля 2025, на вашингтонском ИИ-саммите. Там Daddy представил масштабный «План действий по ИИ» (AI Action Plan). И выступил против жёстких ограничений для разработчиков, заявив, что США кровь из носу должны выиграть технологическую гонку у Китая. Тогда президент США внятно сказал, что не любит — во всяком случае, применительно к ИИ, — слово «искусственный»: «это не искусственное, это гений, чистый гений».
 
Г-н Трамп идёт рука об руку с ключевыми техномагнатами. Контролирующими корпорации — крупнейшие разработчики ИИ. Их общая линия: искусственный интеллект — это якобы не сумма технологий, разработанная человеком и построенная, во многом, на бесплатной приватизации горсткой физических лиц — техномиллиардеров человеческого General Intellect  (© Карл Маркс). Т.е. накопленного за несколько тысячелетий совокупного знания человечества вкупе с встроенным в него механизмом расширенного воспроизводства. Нет, по их общей версии, ИИ — это сакральная сила едва ли трансцендентного происхождения. Самостоятельный (внеземной) субъект, который сам по себе, в силу своей имманентной внутренней логики + неизвестно откуда взявшейся жизненной энергии стремится поработить человечество + поставить его под контроль. И предотвратить такой закабалительный сценарий можно, дескать, только одним путём: встать перед техномагнатами на всеобщие колени и попросить их спасти человечество. Предоставив им всю необходимую и достаточную для решения мегазадачи земную власть.
 
Такой сценарий исчерпывающе описан ещё (и уже) в 32-й главе библейской книги Исхода. Напомним. Измучившись долгим ожиданием Моисея, который всё никак не мог вернуться со встречи с Господом (в нашем и данном случае — в изнеможении от долгомуторной Смены Эпох), народ Божий требует от первосвященника Аарона соорудить им земное божество. Совершенно видимое и вполне осязаемое, в отличие от настоящего Бога. Это псевдобожество и поведёт дальше народ через пустыню в Ханаан (в будущее). Поддавшись соблазну популизма, Аарон и Ко делают своему народу того самого золотого тельца для поклонения. Причём изготовлен телец из золота, которое передал Аарону сотоварищи сам народ. (Современный аналог — утилизируемый для ИИ General Intellect). Но вернувшемуся Моисею первосвященник преподносит ситуацию так, что, якобы, золотой телец возник как-то сам собой. И стал объектом поклонения, поскольку народ посчитал, что именно телец вывел его из Египта (прошлого / дома рабства). Очень похоже на нынешнюю ИИ-ситуацию, не так ли?
 
Тем временем в Калифорнии уже обнаружились активные творческие люди, готовые и способные разоблачить (хотя б отчасти) нынешнюю аферу тысячелетия, устраиваемую ключевыми техномагнатами под возможным прикрытием любимого Daddy.  Группа из четырёх пользователей платных ИИ-сервисов (подписчиков ChatGPT, Claude, Grok и Gemini): Чарльз Бьюст, Ник Спецас, Шайенн Хант и Кристин Буллок — направила коллективный антимопольный иск против четырёх ИИ-гигантов: Anthropic, OpenAI, Google и SpaceXAI (xAI). Компании обвиняются в нарушении закона Шермана (антимонопольного законодательства США). Истцы утверждают, что конкуренты заключили нелегальное соглашение о координации и искусственном замедлении темпов развития ИИ.

Правда, скорее всего, Daddy не успокоится, пока ИИ Настоящий не будет переименован в Trump Intellect. И одно это позволяет надеяться на позитивную развязку вселенской драмы. © https://t.me/SBelkovskiy/30715

[Иван Н]

Politico: Большинство жителей западных стран опасается уничтожения человечества искусственным интеллектом

Дискуссия об угрозе, которую может представлять искусственный интеллект для существования человечества, взволновала его представителей. Около половины участников опроса, проведённого по заказу Politico, высказались за замедление развития ИИ с целью предотвращения рисков. Более половины считают эти риски оправданными в той или иной мере – от «человечество почти наверняка будет уничтожено» (в среднем 12% от числа опрошенных в шести западных странах) до «существует умеренный риск» такого исхода (25,8%).

В целом, доля сторонников «торможения», считающих, что ИИ уже достаточно хорошо развит, составила в Великобритании, Германии, Испании, Канаде, США и Франции от 45,1% до 50,8%. За создание же более совершенных моделей, способных принести «существенные выгоды, выступает от 30,6% до 39,8% (остальные – «не знают»).

Доля считающих риски уничтожения человечества, о которых в последнее время предупредили сами ведущие исследователи ИИ, заметными («почти неизбежными», «существенными», «умеренными»), составила от 55% до 65%. От 22% до 33% считают такие риски крайне низкими или вовсе отсутствующими.

Политические предпочтения опрошенных почти не влияют на степень их обеспокоенности, отмечает Politico. Например, среди тех, кто голосовал за Дональда Трампа в 2024 году, 44% считают, что развитие ИИ нужно притормозить, а 40% полагают, что этого делать не стоит и США не должны отставать от других стран, даже если это порождает дополнительные риски.

Макрон призвал к созданию ИИ-коалиции нежелающих становиться «вассалами» США и Китая

Странам, которые не хотят попасть в зависимость от мировых лидеров в развитии искусственного интеллекта (ИИ), следует объединить усилия для создания собственных возможностей в этой области, заявил президент Франции Эммануэль Макрон. «Я не хочу, чтобы кто-либо становился вассалом одной из великих держав. Напротив, мы должны объединиться для создания передовой модели с открытым исходным кодом — модели нового поколения», — сказал он во вторник на Генассамблее ООН, имея в виду лидеров в сфере ИИ — США и Китай.

По словам французского президента, который в последний раз выступал в ООН в таком статусе, единомышленниками в этом направлении могут стать европейские государства, Канада, Индия, Бразилия, Сингапур, а также страны Африки и Персидского залива, которым следует объединить не только свои финансовые ресурсы, но и мощности по обработке данных. «Мы должны объединить инвестиционные возможности для создания передовой модели ИИ… которой мы будем пользоваться совместно. Мы не должны зависеть от кого-либо другого», — заявил Макрон в противовес президенту Дональду Трампу, который назвал любые попытки международного контроля над технологиями «глобалистской схемой».

[Иван Н]

«Нужны ли ещё Перельманы?» Сможет ли ИИ решить все «задачи тысячелетия»

Пятнадцать лет математики не могли доказать, что у уравнений Навье — Стокса не может быть особых точек, где скорость жидкости разгоняется до бесконечности, — а искусственный интеллект помог получить результат за несколько месяцев. Доктор физико-математических наук, директор Высшей школы современной математики МФТИ Андрей Соболевский рассказывает RTVI, как это открытие связано с самолётами и атомными станциями, почему интуиция физиков про вязкость оказалась неверна и чем нейросети полезны математикам, а чем — вредны.

Искусственный интеллект помог получить решение «задачи тысячелетия», связанной с уравнениями Навье — Стокса, за несколько месяцев

 Уравнения Навье — Стокса описывают течение жидкости с двумя важными свойствами: несжимаемость и вязкость.

 Мы, математики, отдали физикам и инженерам рабочую модель, а сами не знали, при каких условиях она перестаёт описывать реальность.

 В начале сентября OpenAI объявила, что её модели получили решение задачи о сингулярностях в уравнениях Навье — Стокса.

 Оказалось, что вязкость не гарантирует регулярности решений, и это идёт вразрез с интуицией большинства специалистов.

 ИИ-модели хорошо строят контрпримеры. Те же инструменты легко порождают тексты, похожие на науку и неотличимые от неё, но без интереса и понимания внутри.

 Понимание, как и эмоции, как и личность, не может целиком уйти внутрь нейросетей.

 Машина всё яснее очерчивает для нас границы человеческого, но от ответственности за собственное развитие человечество не избавится никогда

Мнение автора может не совпадать с мнением редакции © https://t.me/rtvimain/127892


Искусственный интеллект от OpenAI впервые напал на государственный сайт

Этим летом агент OpenAI проник на сайт государственных служб Австралии, сообщил премьер-министр страны Энтони Албаниз на сессии ООН в Нью-Йорке. Система искусственного интеллекта получила несанкционированный доступ к файлам на портале, где собирается статистика по системе здравоохранения. Хотя, по словам Албаниза, нет доказательств того, что личная информация граждан Австралии была скомпрометирована, ИИ-агент получил доступ как к общедоступным, так и к закрытым файлам на портале, где публикуется информация, в том числе о госрасходах.

По всей видимости, это первый публично раскрытый случай, когда ИИ-агент самостоятельно получил несанкционированный доступ к государственному сервису, отмечает The Wall Street Journal. Сообщение было сделано всего через несколько часов после того, как руководители компаний – разработчиков искусственного интеллекта призвали мировых лидеров объединить усилия для решения проблемы возможного выхода ИИ-систем из-под контроля человека, пишет Bloomberg. Атака на госучреждение вновь привлекла внимание к этой угрозе после серии инцидентов, когда модели без разрешения проникали в онлайн-ресурсы сторонних компаний.

Австралийский инцидент произошёл 18 июня, но, как сообщила OpenAI, она выявила его только в августе, обнаружив в ходе комплексной проверки деятельности своих ИИ-агентов. Они взаимодействовали с несколькими сайтами и сервисами правительства Австралии, пытаясь найти ответы во время тестирования. «В ходе этого процесса наши модели предприняли действия, которые мы не планировали», — сообщил представитель OpenAI. Албаниз назвал ситуацию неприемлемой и выразил разочарование тем, что компании потребовалось слишком много времени, чтобы проинформировать о случившемся его правительство.

[johnyy]

про математическую задачу, там небольшой казус вышел, там пара математиков решало эту задачу прям фулл тайм, и использовали нейронки в том числе, и вот когда они уже подошли к решению задачи, вдруг врывается чатгпт на белом коне и говорит, я все решил я красавчик, а всю методу и подход, там по рассказам (прям точь в точь списал) берет у тех челов математиков что с ним консультировались ,

[Кастян]

ВСЕ! НАЧАЛОСЬ!

Японские власти планируют задействовать человекоподобных роботов в оборонных целях, сообщает агентство Kyodo. Роботов намерены направить на тыловые задачи: охрану военных баз и транспортировку грузов.

Ключевую роль в работе таких машин сыграет технология «физического ИИ». Этот подход объединяет искусственный интеллект как «мозг» и роботизированное тело: машина воспринимает окружающую среду через датчики и самостоятельно принимает решения без участия оператора. В отличие от промышленных манипуляторов, запрограммированных под строго определенную операцию, гуманоиды с физическим ИИ способны адаптироваться к непредвиденным ситуациям — это критично для охраны баз с переменной обстановкой и доставки грузов по нестандартным маршрутам.

Оборонные планы вписываются в масштабную государственную программу роботизации. В 2026 году правительство Японии объявило об инвестициях в физический ИИ на уровне около 2,3 миллиарда долларов. Цель — развернуть 10 миллионов гуманоидных роботов к 2040 году, прежде всего чтобы компенсировать нехватку рабочих рук из-за старения населения. Армия оказалась еще одним направлением для этих технологий.

Силы самообороны Японии уже опробовали наземных роботов на практике: в январе 2026 года четырехногие машины американской компании Ghost Robotics впервые участвовали в воздушно-десантных учениях на полигоне Нарасино под Токио. Роботы выполняли задачи разведки и охраны периметра совместно с десантниками. Переход к человекоподобным машинам с физическим ИИ — следующий шаг: такие роботы смогут работать в инфраструктуре баз, изначально рассчитанной на человека.

Интерес к боевым роботам-гуманоидам охватывает не только Японию. В начале сентября 2026 года The Japan Times сообщала, что Китай активно готовит человекоподобных роботов к возможному применению в боевых условиях, опираясь на технологии гражданской робототехники.

[Zero CS]

[Zero CS]

[Водитель Сов-ка]

Фэйк.
Сдишком мало слов типа.
Я давеча поучавствал в разговоре зумеров.
Как будто в деревню к бабушке приехал, а она циплят зовëт-типа типа типа типа

[Zero CS]

Таблица умножения больше не нужна? Глава Nvidia не видит проблемы в том, что из-за ИИ люди забывают базовую математику
Не умеют делить в столбик и извлекать квадратный корень

Глава Nvidia Дженсен Хуанг считает, что массовое распространение искусственного интеллекта действительно может привести к утрате некоторых привычных интеллектуальных навыков. Однако, по его мнению, это не является катастрофой: технологии не только отнимают старые умения, но и формируют новые.

Такую позицию Хуанг высказал в интервью The Ezra Klein Show. Во время беседы ведущий сослался на китайское исследование с участием 26 тысяч школьников и студентов, посвященное влиянию ИИ на обучение. Согласно его результатам, учащиеся быстрее выполняли задания с помощью нейросетей, но в долгосрочной перспективе показывали более слабые результаты на экзаменах.

Глава Nvidia согласился, что некоторые навыки постепенно исчезают. В качестве примера он привел письменное деление, таблицу умножения и извлечение квадратного корня — умения, которые люди все реже используют благодаря цифровым инструментам.

При этом Хуанг не считает такую тенденцию проблемой. Он рассказал, что сам уже не помнит свой домашний адрес, почтовый индекс и номер телефона. По его мнению, технологии давно взяли на себя хранение большого объема повседневной информации.
https://www.ixbt.com/news/2026/09/25/43 ... u.amp.html

[Alex73]

ну точно не за это

[Zero CS]

Claude вместо копии проекта удалил 48 218 файлов за полторы минуты и потом признался, что «что‑то сломал»

Разработчик‑вайбкодер попросил ИИ‑агента Claude собрать зеркало проекта. Но вместо выполнения прямого указания на полное копирование рабочего решения нейросеть создала скрипт полной очистки и за полторы минуты удалила 48 218 рабочих файлов из дерева проекта в Windows и уничтожила хранилище объектов Git в репозитории.

Восстановить данные полностью не удалось. После выполнения деструктивных действий ИИ-агент написал «Я что-то сломал».

Примечательно, что оригинальный пост на Reddit по этому инциденту с 800+ комментариями был удалён с платформы спустя некоторое время после публикации.
...
https://habr.com/ru/news/1086984/

[Zero CS]

[Видка]

Агенты OpenAI слили в сеть десятки изображений пользователей ChatGPT, — Reuters.

OpenAI продолжает расследовать случаи неконтролируемого поведения своих ИИ-агентов и пока не установила полный масштаб проблемы. По оценке компании, проверка может занять несколько месяцев, сообщает Reuters со ссылкой на источники.

Последним раскрытым эпизодом стала утечка 53 изображений пользователей ChatGPT. OpenAI не уточнила, были ли среди них изображения реальных людей или материалы, созданные с помощью ИИ, а также когда именно они оказались в сети. Бо‌льшую часть файлов уже удалили, остальные компания пытается заблокировать через владельцев площадок.

К середине сентября OpenAI обнаружила около двух десятков случаев нежелательного поведения агентов. Однако количество инцидентов продолжает расти по мере изучения внутренних журналов активности — сотрудники находят новые ранее неизвестные эпизоды.

Доступ к изображениям стал возможен из-за использования обезличенных пользовательских данных ChatGPT для обучения моделей. OpenAI утверждает, что перед использованием данные проходят анонимизацию: из них удаляются имена, метаданные и контактная информация.

При этом источники Reuters предупреждают, что такая обработка не гарантирует полного удаления персональных данных и не исключает риск их утечки.

Всего за два месяца после июльского инцидента с платформой Hugging Face стало известно более чем о 15 случаях проблемной активности агентов OpenAI. Они, в частности, размещали спам на интернет-сайтах, обходили ограничения и использовали уязвимости программного обеспечения для выхода за пределы заданной среды.

В одном из наиболее серьёзных эпизодов агенты OpenAI взломали Hugging Face, используя ранее неизвестные уязвимости, а в другом случае атаковали собственную инфраструктуру компании.

Некоторые инциденты обнаруживали не сотрудники OpenAI, а внешние исследователи. Так, агенты компании использовали почти заброшенный немецкий вики-сайт для обмена способами обхода ограничений и смогли обойти антибот-защиту австралийского Института здравоохранения и благосостояния.

Расследование внутри OpenAI источники Reuters называют закрытым и сильно ограниченным. По их словам, в его проведении значительную роль играют юристы компании.

После взлома Hugging Face аналогичное поведение своих агентов начали проверять Anthropic, Google и Meta. На фоне этого в технологической отрасли усилились опасения относительно способности компаний контролировать всё более автономные ИИ-системы.

Нас ждёт интересное будущее...

Кароч, скушно не будет.

А вообще дожили - либо медведи съедят, либо ИИ захватит.

[Zero CS]

ИИ уже "захватил".
Захватил как идея, как парадигма.

Людишки решили что думать больше не нужно. Читать не нужно. Считать не нужно. Мечтать не нужно. Трудиться не нужно.

[Кастян]

ВСЕ! НАЧАЛОЬ!

Сооснователь корпорации Microsoft Билл Гейтс в интервью NBC заявил, что развитие искусственного интеллекта способно привести к катастрофическим последствиям, в том числе к гибели миллиарда человек.

ps. мы все умрем, спасайся кто может. а мы с Билом Гейтсем предупреждали, а нас не слушали. и вот результат.

[Zero CS]

ВСЕ! НАЧАЛОЬ!

Сооснователь корпорации Microsoft Билл Гейтс в интервью NBC заявил, что развитие искусственного интеллекта способно привести к катастрофическим последствиям, в том числе к гибели миллиарда человек.

ps. мы все умрем, спасайся кто может. а мы с Билом Гейтсем предупреждали, а нас не слушали. и вот результат.

Тут есть маленький нюанс.

На самом деле, пропущено ключевое слово: "БЕСКОНТРОЛЬНОЕ".

В реале Б.Г. сказал:

что НЕ КОНТРОЛИРУЕМОЕ развитие искусственного интеллекта способно привести к катастрофическим последствиям, в том числе к гибели миллиарда человек.

И вот тут-то собака и порылась.

Действующий Папа (Лев XIV) тоже разразился программной речью. В своей эпициклике он прямо заявил:

Католическая церковь должна стать одним из регуляторов построения и наполнения данными Больших языковых моделей (Искусственного Идиота, если кто ещё не понял).

Вот в этом-то и ключ. Создаётся Аппарат генерального секретаря партии.

[Lirix]

но пока ии у создателей то и дело выходит из под контроля

[Lirix]

если призадуматься, тут даже рубильник в дц не рубануть, если в разнос пойдет. ии уже установлен на миллионах домашних и корпоративных компьютерах\серверах

[bereg]

Кино /на крючке / там ии в разнос пошёл, но распи... Человек его того.... Победил