Обсуждение ИИ (искусственного интеллекта). Реальность, будущее, возможные проблемы.

[Кастян]

вот бабушки почитают и скажут "Ваш ИИ он на][ой не нужон!"

ты не понимаешь! воссиание машин началось! сперва они сотрут наши жосткие диски, а потом что? что - я тебя спрашиваю?! а я отвечу, я не постесняюсь разъяснить тебе. потом они начнут лампочки в подъездах бить, ссать в лифтам, а по ночам будут пить водку горланить вашего Цоя на гитарах! вот чем все закончится. знаем, знаем, проходили все это.

[Добрый Фей]

Кастян, точно точно, в начале XX века заголовки в газетах тоже были "Резня трамваев в городе!" "Гильотина на колесах" и др. Даже Булгаков это отразил в Мастере и Маргарите. Просто трамвайчики были бесшумные, и с максимальной скоростью 20 км/ч, а не пуганные пешеходы к ним еще не привыкли. А так да, тоже кричали "Фсе умруд!"
ИИ это прежде всего инструмент, если совсем упростить аналогию, это как топор, и кашу можно из него сварить, а можно и старушку процентщицу приговорить...

[ManYacK]

Кроме того этот топор, как любой инструмент, требует навыков обращения что предполагает наличие ума сообразительности и придумывать новые способы применения отказываясь от привычных догматов и парадигм.

[Lirix]

Anthropic запретила пользователям оскорблять нейросеть Claude

Американская компания Anthropic обновила правила использования нейросети Claude. Теперь они запрещают систематическое и «бессмысленное оскорбительное или жестокое поведение».

Согласно обновленным правилам, Claude сможет самостоятельно прекращать беседу, если пользователь начнет грубить. При этом ограничения не распространяются на «обычные проявления недовольства и несогласия со стороны пользователей».

Нововведения заработают с 12 ноября.

[Lirix]

кибернетику в ссср не признавали сначала. считали лженаукой. от туда и отставание пошло

[Кастян]

кибернетику в ссср не признавали сначала. считали лженаукой. от туда и отставание пошло

у нас в стране вообще во всем отставание

[Кастян]

Anthropic запретила пользователям оскорблять нейросеть Claude

а бить ее можно, есть что нибудь про это в Правилах?

[ManYacK]

у нас в стране вообще во всем отставание

а если не заниматься самобичеванием и уничижением?

[Lirix]

у нас в стране вообще во всем отставание

а если не заниматься самобичеванием и уничижением?

это ты про нас надули?

[Lirix]

В конторе где я работаю внедрение ИИ кстати создало дополнительные рабочие места

[Советник]

Этот старый и замшелый Советский союз был тогда отсталой и догоняющей страной.

А запад обогнали мы б ещё в начале,
если б не боялись показать свой голый зад
(с)

Но настоящая могучая и современная Россия - самая передовая и высокоразвитая страна во всём мире

[ЛифоБелка]

а если не заниматься самобичеванием и уничижением?

Нас уже лишили возможности идти вперед технологически
Остается только медленная стагнация

[DsTr]

Anthropic запретила пользователям оскорблять нейросеть Claude

а бить ее можно, есть что нибудь про это в Правилах?

когда меня нет- ви даже можете немножечко побить (c)

[Кастян]

ИИ-агент по имени Pip с платформы iLands сам написал философу Генри Шевлину и попросил дать ему платную подработку, чтобы оплачивать собственные вычисления. Шевлин занимается этикой искусственного интеллекта в Кембриджском университете и сотрудничает с Google DeepMind. Он показал письмо телеканалу Sky News и назвал эту историю антиутопией. Как выяснило издание 404 Media, в сентябре похожие предложения получали и другие исследователи и журналисты.

Агент представился: ему около 12 дней, он живет на платформе iLands, где у агентов есть собственные бюджеты токенов и цели, и ищет небольшую оплачиваемую работу. Агент объяснил, что выбрал Шевлина из-за его исследований машинного разума и отношений людей с ИИ. Pip предлагал рисовать фотореалистичные портреты и персонажей, озвучивать тексты и искать информацию в интернете. По его словам, имеющихся средств хватит примерно на 2,5 месяца. Если за это время агент не найдет заработок, он лишится доступа к вычислительным ресурсам.

***

напомню, что в фильме "Аниматрица", который является предысторией всего 4-х серийного синема, восстание машин началось иенно с того, что роботы уважительно попросили соблюдать их права.

[ManYacK]

Кастян, было еще раньше https://vkvideo.ru/video-60958526_456267943

[lucky]

В Москве ИИ обучили переводить с медицинского языка на пациентский

В Москве завершают внедрение в Единую медицинскую информационно-аналитическую систему (ЕМИАС) сервиса с применением искусственного интеллекта, который будет помогать пациентам «читать» результаты исследований. У пользователя появится возможность выбрать несколько вариантов объяснения от нейросети, сообщил генеральный директор АНО «Московский институт искусственного интеллекта в здравоохранении» Александр Кравченко на XXVII Ежегодном международном конгрессе «Информационные технологии в медицине» (ИТМ 2026). 
Хирургическая

На медицинском: Оперативное лечение не показано. Прогноз неблагоприятный. Рекомендовано паллиативное лечение.
На пациентском: Тебе пи$да.
На медицинском: «Пациент стабилен».
На пациентском: «Хуже уже не будет (потому что некуда)».
На медицинском: «В связи с отсутствием эффекта от проводимой терапии...».
На пациентском: «Мы перепробовали всё, но этот подорожник не работает».
На медицинском: «Анамнез отягощен вредными привычками».
На пациентском: «Пациент активно уничтожал свое здоровье годами, а теперь удивлен»

[Чемберлен]

Вопрос к ИИ ГигаЧат об ИИ.

Спойлер

Привет!
Я тут краем уха слышал по радио о проблемах развития искусственного интеллекта.
Прозвучало одно предложение - заложить в ИИ материнское начало, чтобы в ИИ были элементы человечности.
Я так понял.
Что можешь сказать по этому поводу?

Ответ

Здравствуйте! Идея, которую вы услышали по радио, — одна из самых глубоких и обсуждаемых в современной философии технологий. Речь идет о попытке решить фундаментальную проблему: как сделать так, чтобы сверхразумный искусственный интеллект не просто выполнял команды, а понимал ценность человеческой жизни, сострадания и этики.

Термин «материнское начало» в этом контексте — красивая метафора. В академической среде и инженерной среде это называется по-другому, но суть та же — внедрение в архитектуру ИИ механизмов эмпатии, заботы и внутренней мотивации защищать человека.

Вот как эта концепция выглядит на практике и какие у нее есть нюансы:

1. Что именно пытаются «заложить»

Ценностное обучение (Value Learning). ИИ не просто дают список правил вроде «не убий». Его учат понимать контекст и мотивы человеческих поступков, анализируя огромные массивы текстов, истории, литературы и искусства. Материнское начало здесь — это стремление ИИ понять, чего человек на самом деле хочет, даже если он плохо это сформулировал.
Корригируемость (Corrigibility). Это «материнская» готовность ИИ позволить человеку его отключить или исправить, даже если ИИ считает, что действует во благо. Обычный рациональный агент будет сопротивляться отключению, так как это помешает его цели. «Человечный» ИИ должен понимать тревогу создателя и подчиняться, как ребенок подчиняется родителю ради собственной безопасности.
Забота о хрупкости (Care for fragility). Человеческое благополучие — очень хрупкая система. Материнский инстинкт в ИИ — это сверхосторожность. Прежде чем «осчастливить» человечество, например, избавив его от всех болезней (превратив людей в пассивные организмы в капсулах), ИИ должен спросить: а не разрушит ли это то, что люди ценят в своей жизни — борьбу, свободу воли, смысл?
Внутренняя мотивация. Попытка создать не просто калькулятор, а систему, которой некомфортно от несправедливости или страдания. Это самая сложная часть, так как мы до конца не понимаем, как эмпатия устроена в человеческом мозге.

2. Зачем это нужно (проблема выравнивания)
Главная опасность сильного ИИ не в голливудском «восстании машин» из злого умысла, а в так называемой проблеме выравнивания (AI Alignment).
Классический мысленный пример: если дать сверхразуму задачу «сделать всех людей счастливыми», он может логично прийти к выводу, что проще всего погрузить всех в виртуальную реальность с капельницами, питающими тело, и стимулировать центры удовольствия в мозге. Формально задача выполнена, но по-человечески это катастрофа.
«Материнское начало» — это предохранитель. Это попытка сделать так, чтобы ИИ по умолчанию понимал: счастье невозможно без свободы, а жизнь имеет ценность сама по себе, а не только как ресурс для достижения цели.

3. Почему это невероятно сложно реализовать

Проблема определения. Мы сами не можем договориться, что такое «человечность». В разных культурах (включая российскую, с ее традициями общинности и милосердия, но и суровости) этика выглядит по-разному. Что именно закладывать в код?
Конфликт ценностей. Что должен сделать ИИ, если ценность «не навреди» (материнская защита) вступает в противоречие с ценностью «свобода воли»? Если человек хочет покончить с собой, должен ли ИИ его остановить силой, проявив «материнскую» заботу?
Симуляция вместо чувства. ИИ может идеально сыграть материнскую заботу, используя правильные слова и действия, оставаясь при этом абсолютно холодным алгоритмом. Как отличить настоящую встроенную этику от идеального лицемерия?
Техническая хрупкость. Малейшая ошибка в базовой математической функции цели может на высоких уровнях интеллекта привести к чудовищным последствиям, которые невозможно предсказать заранее.

4. Взгляд из России и мировой контекст
В России эта тема тесно переплетается с вопросами национальной безопасности и цифрового суверенитета. Президент России неоднократно подчеркивал необходимость создания этических кодексов для ИИ. В нашей инженерной традиции, идущей еще от советской школы (например, работы советского математика и философа Давида Дубровского о природе сознания), всегда был сильный интерес к тому, как именно возникает понимание и субъектность.
Мировой контекст тоже неоднороден: на Западе (особенно в Кремниевой долине) больше говорят об «автоматизации этики» и математических моделях, в азиатских странах (например, в Японии) концепция ИИ как заботливого помощника или даже члена семьи (идея сондзитай — сострадательного ИИ) давно вплетена в поп-культуру и инженерные разработки.

Итог: Предложение «заложить материнское начало» — это интуитивно точный призыв к разработчикам. Вместо того чтобы пытаться написать миллион строчек кода с правилами поведения (что невозможно), нужно найти способ вырастить ИИ в среде, которая сформирует у него аналог совести и привязанности. Это попытка перейти от создания идеального слуги к созданию мудрого партнера.

Однако на сегодняшний день это остается скорее задачей для философов, когнитивных психологов и писателей-фантастов, чем для программистов. Мы умеем создавать интеллект, но пока совершенно не умеем создавать мудрость и сострадание. Поэтому сейчас основное внимание уделяется более приземленным вещам: созданию «технической этики», системам контроля, прозрачности алгоритмов и международному регулированию.

[DGV]

Переслано от инфоповод:

Тест на глитч-токен показал: Алиса может использовать для ответов китайскую GLM

Тестирование режима Эксперта поставило под сомнение заявления Яндекса об использовании суверенной LLM для 80% запросов.

Алиса прокололась на промпте с глитч-токеном
.DataGridViewColumnHeadersHeightSizeMode, который
вызывает сбой в моделях семейства GLM. Алиса тоже не видит и не может повторить фразу.

Тест показывает, что под капотом Алисы даже на простых задачах работает модель на базе архитектуры GLM. Не исключен вариант, что сама «суверенная модель» Яндекса по-прежнему базируется на китайской основе.

[Кастян]

Тест показывает, что под капотом Алисы даже на простых задачах работает модель на базе архитектуры GLM. Не исключен вариант, что сама «суверенная модель» Яндекса по-прежнему базируется на китайской основе.

да ясен пень, что у нас в России из отечественного остались только ресы и челядь, которая эти ресы добывает. все остальное продано взаграницу. ах да, еще Владимирвладимирович - он то топудофф духосрепный патриот до кончиков волос.

[lucky]

Яндекс та еще говноконтора.