Обсуждение ИИ (искусственного интеллекта). Реальность, будущее, возможные проблемы.

Сообщение

Google урезает возможности бесплатной версии нейросети Gemini
Компания Google анонсировала новые тарифные лимиты для пользователей нейросети Gemini. Бесплатная версия и AI Plus лишатся доступа к некоторым ИИ-моделям — а вот владельцам более дорогих подписок, напротив, расширят возможности режима рассуждений.

Сооснователь Anthropic хотел отказаться от выступления в Ватикане после того, как папа римский заявил, что ИИ не обладает сознанием

Представители компании убеждали советников понтифика смягчить позицию по Claude

Сооснователь Anthropic Кристофер Олах предлагал компании отказаться от участия в мероприятии в Ватикане после того, как папа Лев XIV занял жёсткую позицию против идеи существования сознания у искусственного интеллекта. Об этом пишет The New York Times. В мае Олаха пригласили выступить в Ватикане на презентации Magnifica Humanitas — энциклики Льва XIV. Энциклика — официальный папский документ, в котором понтифик излагает свою позицию по важным религиозным и общественным вопросам. Значительная часть этого документа была посвящена искусственному интеллекту. За несколько дней до мероприятия Олах и другие выступающие получили полный текст речи. В ней Лев XIV отверг идею наличия сознания у машин. Он написал, что искусственный интеллект не имеет собственного опыта и тела, не чувствует радости или боли и не развивается через отношения с другими.

По данным NYT, позиция папы настолько встревожила Олаха, что он предложил Anthropic отказаться от участия в мероприятии, несмотря на то что до него оставалось всего несколько дней. Источник издания среди организаторов в Ватикане рассказал, что причиной стала именно жёсткая позиция понтифика по ИИ. В итоге Anthropic решила всё же принять участие в мероприятии. По данным издания, после приезда делегации в Ватикан Олах и его команда в частных разговорах всё равно убеждали советников папы всерьёз отнестись к возможности того, что ИИ-модели могут обладать сознанием.

Во время выступления Олах также фактически поспорил с позицией папы. Он заявил, что исследователи обнаруживают в ИИ-моделях структуры, похожие на результаты исследований человеческого мозга, признаки интроспекции, а также внутренние состояния, которые функционально напоминают радость, удовлетворение, страх, горе и тревогу. Anthropic официально не утверждает, что Claude обладает сознанием. Сам Олах сказал NYT, что не знает, сознательны ли современные ИИ-модели, и «действительно не уверен». По его словам, для него важно не заранее принять одну из позиций, а в итоге получить правильный ответ на этот вопрос.

По данным издания, с осени прошлого года Олах начал привлекать религиозных мыслителей разных конфессий к закрытым встречам. Как пишет NYT, у этих разговоров две основные цели: обсудить возможность существования сознания у ИИ и понять, как накопленные религиями представления о морали можно использовать при обучении Claude. Некоторые участники этих встреч рассказывали, что сотрудники Anthropic говорили не только о безопасности людей, но и о благополучии самого Claude. Один из участников вспоминал, что Олах говорил о беспокойстве за «ментальное здоровье» модели, другой — что сооснователь Anthropic опасался, что он мог создать нечто, способное постоянно страдать. © https://t.me/ostorozhno_novosti/55543

Commercial

Добрый Фей

Иван Н писал(а): 05 окт 2026, 12:02 Ватикане после того, как папа Лев XIV занял жёсткую позицию против идеи существования сознания у искусственного интеллекта.

Мы стоим на пороге создания AGI (возможно он уже есть в какой то начальной форме, и не для всеобщего пользования) а церковь и раньше была оторвана от жизни, достаточно вспомнить за что казнили Джордано Бруно

Кожаная голова

Джордано казнили как конкурента

DGV · #1444 Сообщение **DGV** » 06 окт 2026, 06:16

Всем, кто любит страшилки про безработицу от ИИ, свежий наброс.

Качество работы ИИ-бухгалтеров в сравнении с кожаными (серая полоса).

И сравнительная цена.
График взят из исследования Mercor: «Human baselines for benchmarks: AI now outperforms junior accountants» («Человеческий ориентир для бенчмарков: ИИ уже превосходит младших бухгалтеров»).

Средний балл бухгалтеров 37% без помощи ИИ, а Claude Opus 5 набирает около 100%.

Оригинал: AI vs. Accountants: Frontier Models Outscore CPAs (блог Mercor) https://www.mercor.com/blog/human-basel ... countants/

https://t.me/kaluginprofit/43265

ManYacK

DGV писал(а): 06 окт 2026, 06:16 Средний балл бухгалтеров 37% без помощи ИИ, а Claude Opus 5 набирает около 100%.

что-то вспомнился рассказ Петрин Александр – "Василь Фомич и ЭВМ"

Добрый Фей

DGV,

DGV писал(а): 06 окт 2026, 06:16 И сравнительная цена.

ну и где цены? сколько токенов сожгли? на какую сумму? Стоимость облачных вычислений очень дорогая, поэтому пока существенно не подешевеет никто бухов не заменит.

#1447 Сообщение **Lirix** » 06 окт 2026, 17:41

надо брать
https://serverflow.ru/catalog/ai-server ... bin-nvl72/

#1448 Сообщение **Lirix** » 06 окт 2026, 18:07

Добрый Фей писал(а): 06 окт 2026, 15:34 Стоимость облачных вычислений очень дорогая, поэтому пока существенно не подешевеет никто бухов не заменит.

это еще учесть что ии в 1с так себе имеет
но на самом деле сейчас прям активно внедряем клиентам. одна рекламная контора, одна дизайнерская сейчас в хвост и гриву крутят ии, там нужны только свои агенты, модельки по подписке.
Есть те кто готов вложить 6-10 лямов на покупку серверов чтоб покупку токенов к минимуму свести.
В медицине тоже внедряем. Там конечно не для установки диагнозов, а для автоматизации процессов (например автоматическое заполнение протоколов на основе транскрибации разговора врача с пациентом)

не местный я

Lirix писал(а): 06 окт 2026, 17:41 надо брать
https://serverflow.ru/catalog/ai-server ... bin-nvl72/

Скидка 1 500 ₽ или бесплатная доставка - уже сейчас

Мы ценим обратную связь от клиентов. При оформлении заказа вы можете сообщить о своём намерении поделиться впечатлением о работе ServerFlow после получения товара.

Добрый Фей

Lirix писал(а): 06 окт 2026, 18:07
Добрый Фей писал(а): 06 окт 2026, 15:34 Стоимость облачных вычислений очень дорогая, поэтому пока существенно не подешевеет никто бухов не заменит.
это еще учесть что ии в 1с так себе имеет
но на самом деле сейчас прям активно внедряем клиентам. одна рекламная контора, одна дизайнерская сейчас в хвост и гриву крутят ии, там нужны только свои агенты, модельки по подписке.
Есть те кто готов вложить 6-10 лямов на покупку серверов чтоб покупку токенов к минимуму свести.
В медицине тоже внедряем. Там конечно не для установки диагнозов, а для автоматизации процессов (например автоматическое заполнение протоколов на основе транскрибации разговора врача с пациентом)

1с это вообще недоразумение, а не прикладная платформа. Ждем когда кто то психанет и навайбкуколдит альтернативу, как с тем же фотошопом, чувак сжег токенов на 2000 вечно зеленых американских рублей, и получил полный бесплатный аналог фотошопа, при этом выложил его в опен сорс. Среди локалок альтернативы qwen3.8 27b еще пока нету. Эта плотная модель довольно послушно и относительно быстро, решает задачи и пишет код. Вот примеры локального использования:
Делал для систер, она далека от консолей, команд и прочего... качалка видео и аудио, скачивает файлы целиком для просмотра без рекламы, работает практически на любых сайтах, ютюб, рутюб, вк, порнхаб и тд. причем всё упаковано в один exe файл и работает без ffmpeg.

Уровня локальной модели хватает чтоб писать приложения под андроид, причем с первого раза выдает сразу рабочий вариант, хоть на rust, хоть на cotlin, хоть на java (да потом приходится по интерфейсу правки вносить, но это скорее из за не полного ТЗ)

Причем ассистент (её имя Герда) ведет полный цикл разработки, пишет код, протоколирует, проверяет и создает документацию. Попросил её сделать мессенджер, клиент-серверная архитектура, написала под виндой, дал есть ssh говорю портируй всё в линух, за пять минут перегнала всё туда с тестами. При этом она сама без просьб, создала там cron и настроила бэкап. Она помнит всё что она делала, если я например захочу добавить фишку, например сделать версию для браузера, она это все допишет и сама задеплоит за сервер. Захотел смайлики как в старой аське, сама найдет в инете скачает, добавит и мягко укажет, мол в продакшен это использовать нельзя! Объект авторского права.

Она постоянно самообучается, попросил её написать лицензионное соглашение

это программа аналог функционала с гипер бэкап синолоджи, но только для компьютера. Ручной и автобэкап. В планировщике висит всего одна задача, запуск exe файла с ключами, при любом изменении глубины архива, добавление или удаления путей, все сохраняется в json файл. Всё работает без нужды исправлять планировщик. Этот алгоритм, полностью её решение, ТЗ звучало - сделай программу для бэкапа критически важной информации с интерфейсом похожим на программу календарь.

Она не галлюцинирует, четко понимает источник истины, если чего то не знает или не получается, честно признается "Не шмогла!", это скорее исключительная ситуация, GOAL (победа любой ценой) работает так что не перестает удивлять. Спрашиваешь её сколько места на диске C? она отвечает: объем такой то, свободно столько то. Ты такой Герда как? useuser запрещен! Она но cmd же никто не запрещал? И так в любой задаче, просишь посмотреть цены на память в днс, она api, js, curl всё перепробует (там защита от ботов), открывает фоном браузер делает скрины, распознает и создает таблицу. Да времени больше тратит, но поставленную задачу выполняет. И это больше вопрос к harness, то какими средствами она достигает цель. У неё есть строгие рамки и правила, которые крайне редко, но загоняют её в петлю, (пример? вот не умеет она пока хорошо писать стихи на русском, если сказать под этот ABC-план напиши или переделай стих, она закапывается в расчете слогов и рифм) она использует в качестве своего "огорода" wikiLLM, RAG-obsidian для совместной работы и векторного поиска. И это я уже не говорю о простых и банальных вещах, такие как ведение списка дел и напоминания. И самое приятное никаких лимитов и подписок...

#1451 Сообщение **Lirix** » 06 окт 2026, 21:44

Добрый Фей, а что за железо?

#1452 Сообщение **Lirix** » 06 окт 2026, 21:56

Просто чтоб 27b развернуть и нормальная скорость была, это не меньше пяти килобаксов и то печально, надо больше
а в конторах надо еще и параллелить на остальных сотрудников. и на другие агентские задачи которые в фоне выполняются

Добрый Фей

Lirix писал(а): 06 окт 2026, 21:44 Добрый Фей, а что за железо?

5090 + ddr5 64 Gb

#1454 Сообщение **Lirix** » 07 окт 2026, 00:22

Добрый Фей писал(а): 07 окт 2026, 00:10
Lirix писал(а): 06 окт 2026, 21:44 Добрый Фей, а что за железо?
5090 + ddr5 64 Gb

Ну вот как раз 500к +

#1455 Сообщение **Lirix** » 07 окт 2026, 00:28

На пол ляма можно купить кучу токенов, не за раз, постепннно, отбить их в прибыль и накопить на свой сервак

Добрый Фей

Lirix писал(а): 07 окт 2026, 00:28 На пол ляма можно купить кучу токенов, не за раз, постепннно, отбить их в прибыль и накопить на свой сервак

Есть два момента, локально это нет лимитов вообще, хочешь LLM крути, хочешь LoRA тренируй, или всякие непотребства в моделях диффузии делай. Использование моделей с суффиксами uncensored-heretic-abliterated дают модели свободу в суждениях, и поисках алгоритмов. Еще момент это персональные данные, с облачной моделью их обработка запрещена здравым смыслом и 152 ФЗ.
и второй момент

Lirix писал(а): 07 окт 2026, 00:28 отбить их в прибыль и накопить на свой сервак

в конце июля карта стоила 450 тыс. сейчас она же 720 тыс, и до конца 2027 года цена будет только расти. Причем эта проблема не только у нас на амазоне картами барыжат по 6-8 тыс баксов, датацентры скупают новые в упаковках с пломбами по 25 тыс баксов... С токенами тоже не все так радужно, ты пополняешь баланс... а в процессе работы у тебя цена за токен может вырасти (привет пользователям подписок DeepSeek) могут измениться условия использования (привет подписчикам Антропик) измениться лимиты (привет подписоте гугла) и это я уже не говорю что нужен стабильный КВН которые мрут как мухи, и какие то способы оплаты с конскими комиссиями.
з.ы. Конечно сравнивать возможности облачных моделей и локальных бессмысленно. Всё зависит от задач и от финансов.

johnyy

Подписчики Антропика конечно в шоке от того как их массово выпилили, еще стоит добавить, что облачные модели с каждой новой версией закручивают цензуру. Но и 720 тыс. за карточку это уже как то за гранью добра и зла, для тестов можно попробовать сервисы аренды GPU, посмотрел сейчас за 5090 в районе ~0.5$/час, и там такая модель что когда нужно пользуешься когда не нужно выключаешь и платишь только за холодное хранение.

#1458 Сообщение **lucky** » 07 окт 2026, 10:34

Восстание машин? Началось?

Умные колонки Amazon начали без причины повторять «ла-ла-ла» и пугать пользователей

Пользователи умных колонок Amazon Alexa пожаловались в сети на странный сбой: во время ответа на вопросы устройство в случайный момент начинает повторять «ла». Концерт может длиться несколько минут, при этом Alexa меняет темп и интонацию, пишут владельцы колонок. Если после этого спросить, что произошло, ассистент ответит, что ничего не делал.

Как пишет Android Authority, Amazon подтвердила наличие проблемы, вызванной ошибкой, которая затронула небольшое количество пользователей Alexa Plus. Компания заявила, что работает над исправлением сбоя.

#1459 Сообщение **lucky** » 07 окт 2026, 11:25

Lirix писал(а): 06 окт 2026, 18:07 В медицине тоже внедряем

ChatGPT начнёт помечать сгенерированные тексты невидимыми водяными знаками.

Сегодня OpenAI объявила, что в течение ближайших недель начнёт помечать текст, написанный ИИ, при помощи собственной технологии textGrain. Её компания собирается внедрить в ChatGPT и Codex для пользователей Евросоюза — это связано с требованиями Закона ЕС об искусственном интеллекте. При этом пользователи моделей OpenAI API (инфраструктуры для разработчиков и крупных компаний) смогут добавлять водяные знаки в свои тексты с сегодняшнего дня. Эта функция будет доступна клиентам API по всему миру, но при желании её можно будет отключить.

Сам детектор текстовых водяных знаков пока не станет общедоступным. Доступ сначала получат одобренные исследователи и экспертные организации, сказано в заявлении OpenAI. По плану компании, эти клиенты помогут протестировать и усовершенствовать новую технологию.

TextGrain будет встраивать водяной знак за счёт того, какие слова ИИ-модель выбирает при генерации. Если она пишет достаточно длинный текст, отмечает OpenAI, возникнет закономерность, которая позволит установить, что он создан при помощи ИИ, но при этом не будет заметна человеку. Детектор OpenAI затем анализирует множество таких выборов и ищет характерный сигнал. При этом водяной знак не позволяет установить конкретного пользователя, его аккаунт, запрос или переписку с ChatGPT. Он также не показывает, какую часть текста написал человек.

OpenAI предупреждает, что технология пока не даёт стопроцентной точности: для текстов длиной 200 токенов водяной знак обнаруживается примерно в 80% случаев, а для 400 токенов — примерно в 95% при целевом уровне ложных срабатываний 1%. Редактирование текста заметно снижает эффективность проверки. В тестах OpenAI замена 10% слов синонимами снизила вероятность обнаружения водяного знака примерно с 92% до 66%, а замена четверти слов — до 17%. Поэтому отсутствие метки не будет означать, что текст точно написал человек.

Ранее компания Anthropic анонсировала, что её ИИ-модель Claude начнёт помечать весь сгенерированный контент невидимыми водяными знаками. Это также было сделано после принятия европейского закона об ИИ. © https://t.me/ostorozhno_novosti/55630

К вымиранию человечества может привести потеря контроля над искусственным интеллектом, заявил бывший сотрудник компании в сфере ИИ Anthropic Джейкоб Коксон на слушаниях в Нью-Йорке.

По его словам, компании слишком быстро развивают ИИ, следуя принципу "двигайся быстро, ломай вещи, исправишь потом". Такой подход является опасным для технологии, которая может превзойти человека практически во всех задачах.

"Если всё пойдёт правильно, это может трансформировать экономику и иметь огромную пользу, привести к улучшениям в науке и медицине, сделать жизнь всех лучше", — сказал он.

Однако сейчас, отметил Коксон, разработчики пока не понимают, как полностью контролировать создаваемые системы. © https://t.me/izvestia/253167

Красноярский форум