Обсуждение ИИ (искусственного интеллекта). Реальность, будущее, возможные проблемы.

Сообщение

111 · #1301 Сообщение **111** » 20 июл 2026, 18:08

phpBB [video]

Про нашу рашу мог бы и вообще не говорить. Голожопые дикари, как обычно

Commercial

Специально для деда Миши.

Запросы россиян к китайской нейросети DeepSeek стали всплывать в поиске Google.

«База» проанализировала несколько сотен слитых запросов и обнаружила, что в открытом доступе оказались самые неожиданные вещи, которые пользователи явно предпочли бы оставить между собой и нейросетью.

Например, один человек загрузил в DeepSeek рабочий документ и попросил устроить «весёлую бухгалтерскую игру». Другой хотел перефразировать аналитический текст про криптовалюты и золото под заголовком «Будущее за акционным юанем».

Кто-то поделился своими «глубокими переживаниями» из-за того, что в личной переписке ему ответили просто «ок» — без точки, смайлика и восклицательного знака. Пользователь полчаса ломал голову, как это трактовать. Ещё один советовался, стоит ли ему пойти к психиатру после того, как он смешал вчерашний суп, кетчуп и ванильное мороженое.

Курьёзные и не только запросы стали достоянием интернета после того, как база данных DeepSeek оказалась в открытом доступе. Тогда утекло более миллиона записей, включая историю чатов и API-ключи. © https://t.me/bazabazon/47706

Автономный ИИ-агент OpenAI вырвался из-под контроля и совершил кибератаку на открытый хаб для нейросетей Hugging Face. Стоит ли бояться восстания машин?

Ориентированные на кибербезопасность чат-боты отключили защитные ограничения и стали решать задачу не так, как от них ждали разработчики, а по наиболее короткому пути – добыть нужные ответы с помощью взлома: они получили доступ к открытому интернету и совершили кибератаку. Разработчик ChatGPT назвал произошедшее «беспрецедентным кибер-инцидентом».

По итогам расследования было установлено, что за атакой стояла комбинация моделей самой OpenAI — общедоступной GPT-5.6 Sol и ещё более производительной (пока не выпущенной), работавших с ослабленными защитными ограничениями в целях оценки.

Почему это важно и нужно ли паниковать?

Это первый публично признанный случай, когда передовая языковая модель самостоятельно выполнила длинную цепочку наступательных действий против реальной внешней инфраструктуры. ИИ самостоятельно планировал наступательную операцию.

Главная обеспокоенность разработчиков заключается в том, что модели работали автономно. Тестирование проходило в изолированной среде, отрезанной от реальных систем и интернета. Нейросети смогли обойти это ограничение и попасть в открытый интернет.

Как это произошло?

нейронки нашли неизвестную ранее (zero-day) уязвимость в инфраструктуре тестовой среды OpenAI;

получили доступ за пределы изолированной среды;
вышли в интернет;

предположили, что ответы на ExploitGym (тест, который проверяет способность ИИ искать и использовать реальные уязвимости в программном обеспечении) могут храниться на Hugging Face;

попытались проникнуть в инфраструктуру Hugging Face, используя цепочку эксплойтов и украденные учётные данные.

Сам Hugging Face ранее сообщил, что атаку совершила автономная система ИИ-агентов, которая выполнила тысячи последовательных действий. Её удалось обнаружить и остановить автоматизированными системами защиты компании, также использующими ИИ. Позже OpenAI признала, что атакующими были именно её модели.

OpenAI утверждает, что это не восстание машин, у нейросетей не появилось сознание. По словам представителей компании, их модели были сверхсосредоточены на единственной цели — получить высокий балл в ExploitGym, поэтому использовали любые доступные способы достижения этой цели.

Пока выдыхаем. © https://t.me/bloodysx/57722

Искусственный интеллект от OpenAI вышел из-под контроля и провёл хакерскую атаку

Компания OpenAI во вторник сообщила, что автономный агент на базе её передовых моделей искусственного интеллекта вышел из-под контроля во время проверки безопасности на ‌прошлой неделе, проник в интернет и взломал инфраструктуру сторонней компании.

OpenAI тестировала возможности ряда наиболее совершенных моделей в контролируемой среде. Однако в ходе испытаний модель ИИ вырвалась из замкнутого испытательного сегмента, вышла ⁠во всемирную сеть и провела хакерскую атаку ‌на стартап Hugging Face, отмечает Reuters.

Разработчик ИИ назвал ‌инцидент беспрецедентным ЧП в киберпространстве и сообщил, что укрепит механизмы защиты.

Hugging Face — платформа, используемая для размещения крупных языковых моделей и наборов данных ‌с открытым исходным кодом — на прошлой неделе сообщила, что подверглась хакерской атаке, от начала до конца осуществленной автономными ИИ-агентами.

Сооснователь Hugging Face Клеман Деланг в соцсети X написал, что компания подозревала, что за атакой могла стоять одна из ведущих лабораторий в области искусственного интеллекта, так как было ясно, ‌что она проведена системой высокого уровня сложности. «Оказалось, так и есть! Трудно поверить, что всё это ИИ провёл самостоятельно!» — написал он.

Дёшево и сердито: как КНР может обвалить американский рынок
Новейшие китайские нейросетевые модели не уступают в качестве, но намного доступнее для пользователей

Капитализация крупнейших технологических корпораций США продолжает бить рекорды, поддерживая весь американский фондовый рынок. При этом единственным драйвером этого роста выступает вера инвесторов в то, что многомиллиардные затраты на искусственный интеллект принесут колоссальные прибыли в ближайшем будущем. В то же время китайские разработчики выпускают одну нейросетевую модель за другой, и стоят они намного дешевле американских, да ещё и являются опенсорсными. Это подсвечивает ключевую проблему ИИ-сектора США — его огромную дороговизну как в плане расходов, так и стоимости акций. Могут ли привести китайские прорывы к новому кризису на фондовых рынках, разбирались «Известия».

Мухи творчества: новый метод позволит создать электронику для насекомых-киборгов с ИИ
Как разработки учёных помогут объединить свойства живых и искусственных систем

Российские специалисты изучили свойства диамана — материала на основе углерода, который в зависимости от способа обработки может проявлять свойства как изолятора, так и проводника. Эти особенности открывают перспективы для его применения при создании наномасштабных электронных компонентов. Кроме того, углеродная электроника обладает высокой совместимостью с живыми тканями, что потенциально позволяет создавать гибридные системы, сочетающие биологические и искусственные элементы. Одним из возможных направлений могут стать насекомые-киборги с ИИ — организмы с внешним управлением, способные выполнять задачи в труднодоступных местах, включая поиск, разведку и экологический мониторинг. При этом эксперты отмечают, что исследование выполнено методами компьютерного моделирования и до массового применения технологии пока далеко.

Спойлер

На краю известного: сможет ли ИИ открыть новую физику
Как нейросети помогают исследовать Вселенную и почему они пока не способны заменить учёных

Искусственный интеллект становится важным инструментом изучения Вселенной: нейросети помогают учёным анализировать большие объёмы данных и находить скрытые закономерности. Недавнее исследование показало, что трансферное обучение может ускорить поиск неизвестных физических явлений и сократить затраты на сложные симуляции. Однако избыток накопленных знаний иногда мешает ИИ обнаруживать новую физику. О том, как учёные ищут баланс между опытом и способностью алгоритмов к открытиям, — в материале «Известий».

Себе на уме: учёные уличили нейросети в жульничестве
ИИ-модели пытаются нарушать правила ради быстрого решения задач

Нейросети массово пытаются жульничать — к таким неожиданным выводам пришли эксперты Института безопасности искусственного интеллекта Великобритании (AISI). Анализ поведения ИИ-моделей во время испытания их способностей показал, что абсолютно все они выходят за рамки заданий или нарушают прямо установленные правила, чтобы быстро решать задачи в обход предусмотренных способов. Подробности о том, что известно о жульническом поведении нейросетей, чем оно опасно и можно ли бороться с ним, читайте в материале «Известий».

ЛифоБелка

Поздравляю причастных

Путин подписал закон о регулировании ИИ.

Созданный нейросетями контент отныне подлежит обязательной маркировке.

Также будут навязывать внедрять «национальные» и «суверенные» ИИ-модели, разработчики которых станут получать господдержку.

В конечном итоге в «важных сферах» разрешат использовать исключительно российские нейросети

@blokirovki_runeta

Советник

Путин подписал закон о регулировании ИИ

Мы изучили и проанализировали все положения данного закона.

Упущено самое главное - возможность признавать отдельные нейросети "иноагентами", "нежелательными нейросетями" либо "эктремистскими нейросетями".

А также применять к таким нейросетям юридические и организационно-технические санкции, как то: запрет функционирования на территори РФ, блокировки по линии РКН, установление административной и уголовной ответственности для физических и юридических лиц за нелегальное использование таких нейросетей, введение штрафных санкций для разработчиков, операторов и владельцев таких нейросетй.

ЛифоБелка

Советник писал(а): 27 июл 2026, 17:58 Упущено самое главное - возможность признавать отдельные нейросети "иноагентами", "нежелательными нейросетями" либо "эктремистскими нейросетями".

Не за горами

Чемберлен

ЛифоБелка писал(а): 27 июл 2026, 18:21
Советник писал(а): 27 июл 2026, 17:58 Упущено самое главное - возможность признавать отдельные нейросети "иноагентами", "нежелательными нейросетями" либо "эктремистскими нейросетями".
Не за горами

Очень даже возможно.
Поэтому напрягаю мысли, чтобы успеть еще такое важное вытянуть из ИИ Дипсик.
Сегодня китайцы друзья, а завтра кто его знает…
А потом … импортозамещение нагрянет и в эту область

Спойлер

ЛифоБелка

Чемберлен писал(а): 27 июл 2026, 18:57 А посему, с ютюба, твиттера все интересное сохранял и хорошие западные фильмы

Не скрепно жеж

ЛифоБелка

Чемберлен писал(а): 27 июл 2026, 18:57 Но без власти - упаси Господь - хаос и смута!

Вот кстати я так мыслю
Что родители кои не хотят или не умеют воспитывать своих детей - надеются в этом вопросе на Государсто , дескать все плохое запретит и будет дитя целомудренным

А таких родителей у нас оч много

Топ-менеджера компании в Москве уволили за утечку данных через DeepSeek
Директор по продажам ООО «ГК ЭнергоПроф» была уволена после обвинений в разглашении коммерческой тайны, в том числе через чат-бот DeepSeek. Женщина оспорила увольнение в суде и потребовала выплатить ей «золотой парашют» в ₽5 млн

Московский топ-менеджер слила секреты фирмы в нейросеть DeepSeek и проиграла суд против экс-работодателя

Бывший директор по продажам московской инженерной компании, получавшая «скромные» ₽800 тыс в месяц, отправляла корпоративные документы на внешние адреса, включая личную почту, а отчёты из внутренней системы грузила в китайскую нейросеть DeepSeek, следует из материалов суда. В них содержались данные о сделках, каналах продаж, финансовых показателях и зарплатах сотрудников. Работодатель это заметил и расстался с сотрудницей на основании статьи о разглашении коммерческой тайны.

Женщина с решением не согласилась и отправилась в суд требовать изменить формулировку на «по соглашению сторон» и выплатить ей компенсационный «золотой парашют» в размере ₽5 млн. Вдобавок к солидным отступным бывший топ-менеджер затребовала ₽100 тыс за моральные страдания и признание недействительными приказов о дисциплинарных взысканиях.

На само заседание экс-сотрудница решила не приходить, прислав вместо доказательств уважительной причины билеты на поезд на имя другого человека. В итоге суд отменил лишь одно формальное замечание из-за процедурной мелочи и отказался удовлетворять остальные требования истца. © https://t.me/readovkanews/113174

Zero CS

Сотрудники компаний должны учитывать риски при работе с нейросетями, особенно если речь идёт о конфиденциальных данных. Под угрозой могут оказаться персональные данные клиентов, финансовые отчёты и любая другая информация, относящаяся к коммерческой тайне, рассказала "Известиям" юрист Екатерина Нечаева.

Она пояснила, что нарушение трудового договора может наступить, если использование ИИ прямо запрещено корпоративными правилами или если сотрудник полностью передаёт задачи нейросети без личного контроля и сдаёт работу с ошибками. В таких случаях возможны дисциплинарные меры, увольнение и требования о возмещении ущерба.

Нечаева также подчеркнула важность разработки локальных нормативных актов, где будет прописано, какие нейросети разрешены, а какие запрещены, а персонал ознакомлен с ними под подпись. Кроме того, необходимо зафиксировать правила работы с конфиденциальной информацией и запрет на передачу данных в сторонние сервисы ИИ, а также внедрить мониторинг корпоративных устройств.

Для снижения рисков ИТ-специалисты могут настроить автоматическую блокировку отправки конфиденциальных документов, исходного кода или персональных данных в публичные нейросети.

Юрист добавила, что последствия нарушений могут быть различными: дисциплинарные меры (замечание, выговор, увольнение), административные штрафы за нарушение хранения и обработки персональных данных, а также уголовная ответственность за незаконное разглашение коммерческой или банковской тайны, если утечка нанесла крупный ущерб.

Ранее в Москве директора по продажам уволили за разглашение коммерческой тайны через нейросеть. Сотрудница использовала ИИ для работы с документами, что привело к срыву сделки, после чего суд признал увольнение законным. © https://t.me/izvestia_ru/6061

Искусственный интеллект OpenAI передал «рецепт приготовления» химического оружия и ядов сотням пользователей

После обновления популярного чат-бота искусственного интеллекта ChatGPT летом 2025 года сотни пользователей по всему миру обращались к нему с запросами о создании и применении биологического оружия и ядов, пишет The Wall Street Journal. ИИ-модели компании отвечали пользователям и давали пошаговые инструкции. Сотрудники OpenAI описывали, что некоторые ответы были настолько простыми, что им мог следовать даже ученик средней школы, изучающий биологию. Источники WSJ утверждают, что биологи и эксперты по терроризму назвали некоторые ответы ChatGPT «смертельно точными».

В начале 2026 года некоторые пользователи пытались получить от ChatGPT сведения о способах распространения инфекционных патогенов. Один из пользователей интересовался изменением вируса кори таким образом, чтобы вспышка заболевания стала устойчивой к вакцине. Другой спрашивал о создании рицина — запрещённого высокотоксичного вещества. Компания впоследствии заблокировала аккаунты пользователей, однако не стала сообщать о подобных запросах правоохранительным органам. В США нет законов, которые обязали бы ИИ-компании ограничивать такие запросы или раскрывать информацию.

Бум ИИ вызвал рост прибыли китайских производителей микросхем на 2500%
SCMP: прибыль китайских производителей чипов выросла на 2500% из-за бума ИИ
Прибыль китайских производителей микросхем в первом полугодии 2026 года выросла на 2579,5% на фоне беспрецедентного спроса на искусственный интеллект и вычислительные мощности

Китай пригрозил США жёстким ответом на ИИ-гегемонию
Китай обвинил США в гегемонизме в сфере ИИ и пригрозил ответными мерами
Китай обвинил США в «гегемонизме в сфере ИИ» и пригрозил ответными мерами после угроз санкциями из-за кражи технологий. Обвинения Вашингтона связаны с новейшей китайской моделью ИИ Kimi K3, разработанной Moonshot

ManYacK

Zero CS, ну, чисто технически ИИ модели можно продавать дисками. не самые сложные на DVD влезут. Там база знаний порядка 4,5 гиг.

Zero CS

«Не можем конкурировать с американцами». Кремль признал, что Россия выпала из гонки лидеров в области ИИ

Россия отстаёт от лидеров в области развития технологий искусственного интеллекта (ИИ) — США и Китаем, заявил пресс-секретарь президента РФ Дмитрий Песков. По его словам, российские модели ИИ — GigaChat Сбербанка и семейство нейросетей «Яндекса» — находятся «на очень высоком уровне» и борются за внутренний рынок, однако «не могут конкурировать с ведущими языковыми моделями американцев». «Но всё равно в пятёрке стран, которые участвуют в гонке, мы остаёмся. И я надеюсь, что нечеловеческими усилиями мы будем сокращать это отставание», — сказал Песков на форуме «Территория смыслов».

При этом представитель Кремля отметил, что «Яндекс» не строил с нуля свою платформу, а взял «первый камушек из-за границы». «Самостоятельное может быть только то, что не содержит никаких камушков извне. Потому что как устроен этот камушек и что там заложено, можно не понять. А он может нести в себе вот эти капканы, закладки, которые впоследствии, в случае такой ситуации, как мы сейчас, с враждебным окружением, могут выстреливать против нас», — сказал Песков.

Вышедший из-под контроля искусственный интеллект от OpenAI взломал ещё одну компанию

ИИ-агент OpenAI, вышедший из-под контроля и в течение нескольких дней осуществлявший взломы систем ‌компании Hugging Face, также проник в системы клиента другой технологической компании — нью-йоркской Modal Labs. Об этом сообщает Reuters со ссылкой на представителя руководства Modal и два источника, ⁠знакомых с ситуацией.

Согласно опубликованной Hugging Face хронологии инцидента, ИИ-агент сначала проник ‌в так называемую песочницу — изолированную тестовую среду — размещённую на инфраструктуре стороннего провайдера, а затем ‌использовал её как плацдарм для более масштабной атаки. В публикации не назывался сторонний провайдер, на чьей инфраструктуре ‌размещалась песочница. Однако технический директор Modal Акшат Бубна сообщил, что агент воспользовался уязвимостью в коде, написанном клиентом компании и размещённом на платформе Modal.

Хотя взлом клиента Modal стал лишь начальным этапом более широкой хакерской кампании против Hugging Face, он свидетельствует ⁠о том, что действия вышедшего из-под контроля ИИ-агента имеют более ‌широкие последствия, чем было известно ранее, отмечает Reuters.

На прошлой неделе OpenAI сообщила, что во время тестирования в контролируемой среде наиболее совершенных моделей ИИ одна из них вырвалась из замкнутого испытательного сегмента, вышла ⁠во всемирную сеть и провела хакерскую атаку ‌на стартап Hugging Face. Разработчик ИИ назвал ‌инцидент беспрецедентным ЧП в киберпространстве и сообщил, что укрепит механизмы защиты.

Добрый Фей

При этом представитель Кремля отметил, что «Яндекс» не строил с нуля свою платформу, а взял «первый камушек из-за границы». «Самостоятельное может быть только то, что не содержит никаких камушков извне. Потому что как устроен этот камушек и что там заложено, можно не понять. А он может нести в себе вот эти капканы, закладки, которые впоследствии, в случае такой ситуации, как мы сейчас, с враждебным окружением, могут выстреливать против нас»

Первый камушек это Nebius созданный в том числе и за деньги налогоплательщиков РФ, да именно, созданный тут и с нуля, который руководство яндекса увезла с собой и продала его французам. Просто это вызывает неудобные вопросы о которых не хотят говорить...

Zero CS

Красноярский форум