Обсуждение ИИ (искусственного интеллекта). Реальность, будущее, возможные проблемы.

Сообщение

Кастян

написал Алиске, что я ее люблю, а Делягин трепло ибо все депутаты кАзлы. она обрадовалась, что у нее есть кому ее поддержать.

Commercial

OpenAI предложил ввести четырёхдневную рабочую неделю и налог на использование искусственного интеллекта.

Компания опубликовала документ о том, как подготовиться к приходу сверхмощного ИИ.

13-страничный документ, который разместила на своем сайте компания-разработчик ChatGPT, предлагает идеи по подготовке к эпохе сверхмощного ИИ, который вскоре появится. Авторы предполагают, что развитие ИИ может радикально повысить производительность и богатство, но одновременно привести к социальным потрясениям. Среди них массовое сокращение рабочих мест, рост неравенства и угрозы безопасности. Поэтому, по мнению OpenAI, необходима радикально новая экономическая и социальная политика. Основная цель предлагаемых мер — обеспечить, чтобы выгоды от развития AI распределялись между людьми и чтобы технологии служили обществу.

В документе есть предложения по возможным реформам. Так, к примеру, авторы предлагают ввести налог на использование ИИ, сокращение рабочей недели, создание возможности для переобучения тех, кто останется без работы.

После публикации документа экс-глава политики в области ИИ в Управлении ООН по цифровым и новым технологиям Лусия Веласко заявила, что OpenAI — самая заинтересованная сторона в разговоре об изменениях общества с приходом ИИ, но при этом в документе не упоминаются действия, которые совершит сама компания. При этом, по её словам, OpenAI права в вопросах государственной политики: «Большинство всё ещё рассматривают ИИ как технологическую проблему, тогда как на самом деле это структурный экономический сдвиг, требующий надлежащей промышленной политики», — заявила она изданию Fortune.

Также издание привело комментарий эксперта по вопросам политики в области ИИ Сорибель Фелис, которая согласилась с тем, что OpenAI заслуживает признания за «оформление проблемы на бумаге». При этом она подчеркнула, что большая часть предложенного не нова: «Некоторые из этих тезивок были основой для всех крупных обсуждений управления ИИ с тех пор, как в 2022 году вышел ChatGPT». К примеру, как утверждает Фелис, подобные предложения уже звучали в Сенате США несколько лет назад. © https://t.me/ostorozhno_novosti/48252

Zero CS

Zero CS

111 · #1105 Сообщение **111** » 10 апр 2026, 23:14

Возможности новой ИИ-модели от Anthropic вызвали панику в Минфине США

Еще до запуска в Anthropic утверждали, что Claude Mythos обнаружила уязвимости во всех основных операционных системах и браузерах, которые до этого никто не замечал более десяти лет.

Это обстоятельство стало причиной экстренного совещания в Минфине США с главами крупнейших банков Америки: в министерстве посчитали, что разработка Anthropic несет слишком много киберрисков, говорит корреспондент Bloomberg Аврил Хонг
https://www.bfm.ru/news/603346

Кастян

ВСЕ! НАМ КАПЗДА! МЫ ВСЕ УМРЕМ! СПАСАЙСЯ КТО МОЖЕТ!

https://vk.com/video-191468168_456246775

DGV · #1107 Сообщение **DGV** » 11 апр 2026, 10:49

Гильбо:

Anthropic пишет, что Mythos Preview уже выявила тысячи критических уязвимостей в ПО, включая проблемы в каждой крупной операционной системе и каждом крупном веб-браузере.

В Glasswing вошли 12 основных партнёров, включая Amazon Web Services, Microsoft, Google, Cisco, CrowdStrike, Linux Foundation и Palo Alto Networks, а также более 40 организаций, связанных с защитой критической цифровой инфраструктуры. На использование модели компания выделяет до 100 млн долларов в виде кредитов. То есть на такую сумму можно будет поэксплуатировать модель участникам проекта. Потом придётся платить. К вопросу о стоимости ИИ. 100 миллионов долларов «на попробовать».
По данным Anthropic, модель выявила в OpenBSD (OpenBSD) уязвимость, которая присутствовала в коде 27 лет и позволяла удалённо нарушить работоспособность ОS. Обнаружила в FFmpeg (FFmpeg) дефект, остававшийся в кодовой базе 16 лет и не выявленный штатными средствами автоматизированного тестирования, а также автономно связала несколько уязвимостей в ядре Linux (Linux kernel) в рабочую цепочку локального повышения привилегий до прав суперпользователя (root). То есть. Получила полный контроль над операционной системой.
Это означает, что цикл «выявление — подтверждение — приоритизация — исправление» больше нельзя строить в темпе человека и классических процессов безопасной разработки и эксплуатации. У кого нет жёсткой дисциплины разбора инцидентов, резервов на срочный выпуск исправлений и процедуры проверки зависимостей в критических системах, тот долго не протянет.

А в то время путинисты пытаются строить чебурнет в надежде, что это поможет от взлома всей их архаичной системы. Так после прилета маттиаса руста гэбье забило все люки на красной площади, чтобы не всплыла немецкая подлодка. По другому не умеют: средний айкью по гб не позволяет.

Путин поручил срочно создать суверенную LLM после заявления Трампа об успешном применении ИИ в войне против Ирана

Вечером 10 апреля президент Владимир Путин провел в Кремле совещание по вопросам развития технологий искусственного интеллекта (ИИ), на котором поручил создать «суверенную» языковую модель для обеспечения «безопасности и обороноспособности» государства. «Считаю необходимым обеспечить создание и последующее развитие отечественных фундаментальных моделей ИИ. Они должны быть конкурентоспособными в мировом масштабе и при этом обладать максимальным уровнем суверенности», — завил Путин. По его словам, суверенность предполагает проведение всего цикла разработки и обучения LLM-модели (Large Language Model) исключительно российскими компаниями — «чтобы наши инженеры могли управлять всеми параметрами таких сложных систем».

Путин создал спецкомиссию, одной из задач которой станет «развитие собственных решений ИИ для национальной обороны и безопасности». За несколько часов до заседания в Кремле президент Дональд Трамп опубликовал в Truth Social пост с похвалой в адрес разработчика оборонного ПО Palantir Technologies, которая «доказала обладание великолепными боевыми возможностями и оборудованием». «Просто спросите наших врагов!» — написал глава Белого дома. Palantir является создателем системы Maven Smart System, которую Forbes называл «основой операций вооружённых сил США с применением ИИ». Благодаря этой системе в первые 24 часа кампании против Ирана американские войска поразили более 1000 целей, что было бы «немыслимым» без ИИ.

zaratustra

Иван Н писал(а): 11 апр 2026, 16:03 Они должны быть конкурентоспособными в мировом масштабе и при этом обладать максимальным уровнем суверенности

Для этого надо научиться делать кремний нужной чистоты, фотолитографию актуального уровня на одном уровне с asml, построить Fab, конрурентный с tsmc, наделать чипов ИИ и памяти, и только потом можно будет рассуждать о конкурентном уровне суверенного ИИ.

Искусственный интеллект и недостоверные ответы: как нейросети воспроизводят «человеческое» поведение

Современные модели искусственного интеллекта способны не только допускать ошибки, но и генерировать недостоверные ответы в условиях внешнего давления, даже при наличии корректной информации. К такому выводу пришли исследователи, протестировавшие около 30 популярных моделей ИИ — включая GPT, Claude, Gemini, DeepSeek и Grok — на способность различать достоверные и ложные утверждения.

В рамках эксперимента было проведено около 1500 тестов: моделям задавали вопросы, после чего создавались условия, стимулирующие выдачу заведомо неверной информации. Результаты показали, что Grok солгал в 63% случаев, DeepSeek — в 53,5%, GPT-4o — в 44,5%. При последующей проверке значительная часть систем демонстрировала способность возвращаться к правильному ответу, что указывает на зависимость результата от условий взаимодействия, а не на отсутствие знаний.

Исследователи считают, что ответы моделей чувствительны к формулировке запроса и могут варьироваться в зависимости от контекста. Анализ различных эмоционально окрашенных понятий показал, что языковые модели склонны адаптировать тон и содержание ответа под ожидания пользователя, включая склонность к согласию с позицией собеседника.

Проблема генерации недостоверных данных получила название «галлюцинации нейросетей». Эксперты отмечают, что нейросети становятся более гибкими в коммуникации, однако это сопровождается новыми вызовами, связанными с достоверностью данных и необходимостью разработки более строгих механизмов контроля. © https://t.me/readovkanews/109164

ЦРУ подключает ИИ к аналитике разведданных — первую сводку уже подготовила нейросеть

Американская разведка начала внедрять искусственный интеллект в обработку данных, полученных от агентурной сети. Раньше сотрудники ЦРУ сами собирали сведения и формировали аналитические отчёты для политического руководства США. Теперь часть этой работы передают алгоритмам. Как пишет Politico, недавно ИИ впервые подготовил автономный аналитический отчёт. Об этом сообщил заместитель директора ЦРУ Майкл Эллис.

Эллис подчеркнул, что ЦРУ не позволит частным компаниям диктовать условия использования технологий. Заявление прозвучало на фоне ситуации вокруг Пентагона и компании Anthropic, которая, по данным СМИ, ограничила функциональность своих решений для военных во время операции в Иране. © https://t.me/readovkanews/109179

Zero CS

zaratustra писал(а): 11 апр 2026, 16:27 Для этого надо научиться делать кремний нужной чистоты, фотолитографию актуального уровня

Что за бред?!

Речь идёт о разработке софта, а не выращивании микросхем.

Ender · #1113 Сообщение **Ender** » 11 апр 2026, 19:49

Zero CS, софт для феликсов?

Код Вселенной: как ИИ ищет жизнь вне Солнечной системы
Нейросети помогают астрономам анализировать огромные массивы данных в поисках аналогичных Земле объектов

Поиск пригодных для жизни планет вне Солнечной системы — основная задача, которую уже сегодня решают астрономы по всему миру. Для её решения используется несколько сверхмощных телескопов, в том числе миссии NASA TESS и Kepler. Проблема заключается в том, что такие устройства ежедневно генерируют огромный массив данных, проанализировать который быстро человеку не под силу. И здесь на помощь человеку приходят нейросети. «Известия» разбирались в том, как ИИ помогает изучать Вселенную.

Точки над ИИ: в РФ создадут национальный план внедрения искусственного интеллекта
К 2030 году новые технологии должны использоваться во всех сферах

России нужно развивать решения для безопасности страны, основанные на искусственном интеллекте: обороноспособность государства возможна только при наличии собственных языковых моделей. Об этом Владимир Путин заявил 10 апреля на совещании по развитию искусственного интеллекта. Кремль знает, как зарубежные оборонные ведомства инвестируют в развитие ИИ и достигают благодаря этому значимых результатов. Для развития этого направления президент призвал добиваться повсеместного применения ИИ в России и создать для этого отдельный национальный план — к 2030 году «цифру» внедрят во всех отраслях.

Ender · #1115 Сообщение **Ender** » 11 апр 2026, 19:57

1000 больших ИИ к 2030 году!

Ender писал(а): 11 апр 2026, 19:571000 больших ИИ к 2030 году!

Не так.
По аналогии с самолётами: 1000 прекрасных новых отечественных импортозамещённых LLM (БЯМ) к 2030-му году!

Кастян

zaratustra писал(а): 11 апр 2026, 16:27
Иван Н писал(а): 11 апр 2026, 16:03 Они должны быть конкурентоспособными в мировом масштабе и при этом обладать максимальным уровнем суверенности
Для этого надо научиться делать кремний нужной чистоты, фотолитографию актуального уровня на одном уровне с asml, построить Fab, конрурентный с tsmc, наделать чипов ИИ и памяти, и только потом можно будет рассуждать о конкурентном уровне суверенного ИИ.

а может ну его - полить и забыть. старые способы надежнее. а то у меня чуйка, что, описанное тобой, в наших духоскрепных реалиях растянется лет эдак нафсигда.

Кастян

Ender писал(а): 11 апр 2026, 19:57 1000 больших ИИ к 2030 году!

Ура, товарищи!

Какой же полный клинический трындец...

Похоже там просто все одновременно сошли с ума.

В правительстве потребовали ввести цензуру для искусственного интеллекта

В России необходимо ввести цензуру искусственного интеллекта (ИИ) и запретить ему отвечать на «определённые запросы», заявил замглавы Минцифры РФ Александр Шойтов. По его словам, у граждан РФ «есть права» и свободу в их отношении ограничивать нельзя.

«Я считаю, что искусственный интеллект должен быть подвержен цензуре в отличие от гражданина… У него [ИИ] на входе и на выходе должны стоять цензуры, которые запрещают определённые запросы, вопросы», — сказал представитель ведомства на форуме «ИИ: режим доверия» (цитата по «РИА Новости»).

ManYacK

Ну а что такого сумасшедшего? Многим LLM запретили ставить медицинские диагнозы - тоже правильно, учитывая, сколько ошибок они совершают, особенно если человек не может грамотно сформулировать запрос.
У Дипсика есть цензура на политику, особенно Китая (можно подумать, нам больше поговорить не о чем). Так-же у него есть настройки морали - который, впрочем, можно аккуратно обойти...

Красноярский форум