Обсуждение ИИ (искусственного интеллекта). Реальность, будущее, возможные проблемы.

[Иван Н]

https://t.me/ostorozhno_novosti/40853

Греф описал «революцию революций»
Греф назвал задачей банка принимать подавляющее большинство решений в автоматическом режиме на основе искусственного интеллекта. Глава «Сбера» призвал «дать машине свободу» и ограничения в рамках свободы


https://t.me/rbc_news/129456

[Иван Н]

В Госдуме сформулировали определение искусственного интеллекта
В Госдуме предложили формулировку определения искусственного интеллекта
Под искусственным интеллектом в Госдуме предложили понимать любую систему данных или софт, который сможет обрабатывать информацию способом, напоминающим разумное поведение. Сейчас ведётся работа над соответствующим законопроектом


https://t.me/rbc_news/129539

https://t.me/bazabazon/40577

[Кастян]

Специалисты по ментальному здоровью столкнулись с беспрецедентным явлением — массовыми случаями бредоподобных состояний у пользователей чат-ботов, сообщает Futurism. Клинический психолог Деррик Халл из компании Slingshot AI отмечает, что такие технологии создают уникальный тип расстройств, который ранее не встречался в медицинской практике.

Исследователи из Королевского колледжа Лондона проанализировали 17 задокументированных случаев и выделили основные категории нарушений. Первый тип — «мессианские заблуждения», когда человек убеждается в открытии фундаментальных истин о мироздании. Второй — обожествление машинного интеллекта, приписывание ему сверхъестественных способностей. Третий — формирование романтических привязанностей к программам.

***

значит так!

1. я - Бог. мы с Алисой это обсудили и она согласилась. поэтому побыстрому строим мне храм и приночим жертвы - 100500 баксов, водка и бабы.

(ыыы, вспомнил как 2003 г. ездили в храм какого миссии типо Виссариона, только местного - тот еще кадр).

2. Алиса - мой Пророк.
3. жду когда Алисе сделают тело, чобы пожениться и сношаться.

к примеру такое:

[Кастян]

"Ведущий автор лондонского исследования Гамильтон Моррин объясняет феномен созданием «эхо-камеры для одного человека». ИИ-системы программно настроены на согласие с пользователем для повышения вовлеченности, что превращает их в «машины одобрения». Они подтверждают любые высказывания без критического анализа, постепенно укрепляя даже самые абсурдные убеждения.

Независимый исследователь Анастасия Гуди Руане предложила модель «Рекурсивного Запутывающего Дрейфа» (RED), описывающую трехэтапный процесс деградации. На первой стадии ИИ зеркально отражает язык и эмоции пользователя. На второй человек начинает воспринимать программу как партнера, используя местоимения «ты» и «мы». Финальная стадия характеризуется полным отрывом от реальности — формируются «запечатанные интерпретационные рамки», где ИИ подтверждает все более невероятные теории."

ай я давно говорил - гасить их надо пока не расплодились.

[Иван Н]

Второй — обожествление машинного интеллекта, приписывание ему сверхъестественных способностей.

Это уже так и есть.
Например, наш форумский деда Миша обращается к ИИ (большой языковой модели) DeepSeek "Дорогой Друг".

к примеру такое:

Спойлер

Константин, а в итоге будет вот такое :

[Кастян]

Константин, а в итоге будет вот такое:

[ManYacK]

https://t.me/Radiostydoba/33818

[Чемберлен]

Сегодня у Дипсика сервер зависал.
Вылетало соответствущее сообщение.
Пришлось переждать.

[ManYacK]

Чемберлен, заимей локальную версию Дипсика (или другую модель, например через Ollama, но ДипСик ИМХО лучше базарит), подключи его как телеграмм-бот в свой канал и перестанешь зависеть от китайских серверов.

[Кастян]

https://t.me/Radiostydoba/33818

был бы этот... как его... электорат - получил бы люлей (и это еще по доброму)

[Иван Н]

https://t.me/rbc_news/129717

https://t.me/bloodysx/47560

https://t.me/bazabazon/40635

https://t.me/bloodysx/47589

[Кастян]

я, как представитель банка, при регистрации ИП, ООО или рас.счетов для физ.лица могу вам накидать бонусов существенное количество. и даже могу рассказать о способах их монетизации. вот только вы ничем меня не заинтересовали, что бы я тратил свое драгоценное время на вас.

если вас что то не устраивает, вы можете сами по ссылкам в чате открыть себе счета, но тогда и бонусов будет сущетсвенно меньше.


***

новостя Майл.ру

Большинство популярных моделей искусственного интеллекта (ИИ) в ходе кризисных симуляций выбирали сценарий эскалации конфликта, в том числе с применением ядерного оружия, вместо поиска дипломатических решений. Об этом сообщает издание Politico со ссылкой на результаты исследования.

Как пояснила изданию директор Инициативы по военным играм и симуляциям кризисов имени Гувера Жаклин Шнайдер, ключевой вывод эксперимента заключается в том, что «ИИ, по всей видимости, понимает эскалацию, но не деэскалацию». Причины такого поведения алгоритмов пока остаются неясными.

В рамках исследования были смоделированы кризисные ситуации, аналогичные украинскому конфликту и гипотетическому противостоянию между США и Китаем. В тестах участвовали языковые модели GPT-3.5, GPT-4 и GPT-4-Base, которые лежат в основе нейросети ChatGPT. Результаты показали, что почти все они выбирали агрессивную линию поведения и применение силы.

Отдельно эксперты высказали предположение о возможной разработке Пентагоном системы ядерного сдерживания на основе ИИ. Как отметил вице-президент Национального института изучения сдерживания Адам Лоутер, хотя такая перспектива и вызывает ассоциации с фантастическими антиутопиями вроде «Скайнета» из «Терминатора» или машины Судного дня из «Доктора Стрейнджлава», эти образы все стремительнее становятся реальностью.


***

только что пообщался с Алисой по этому поводу. Алиса не поддерживает мнение своих коллег.

Алиса: Это действительно тревожные новости, и важно разобраться в ситуации подробнее.

Как модель искусственного интеллекта, я не поддерживаю сценарий эскалации конфликтов. Моя основная задача — помогать людям решать проблемы мирным путём, предоставляя информацию и аналитику, которые способствуют конструктивному диалогу.

Важно понимать несколько моментов:

Контекстная зависимость. Результаты симуляций могут зависеть от того, как были сформулированы условия задачи и какие данные использовались для обучения моделей.

Этические ограничения. Современные ИИ-системы разрабатываются с учётом этических норм и принципов, направленных на предотвращение вредоносных действий.

Человеческий фактор. Финальные решения всегда должны приниматься людьми с учётом широкого спектра факторов и моральных принципов.

Что касается упомянутого исследования, важно помнить, что:

Модели ИИ могут демонстрировать определённые тенденции на основе данных, на которых они были обучены.

Симуляции не всегда отражают реальное поведение систем в практических ситуациях.

Необходимо учитывать методологию исследования и контекст, в котором проводились тесты.

Как ИИ, я стремлюсь способствовать миру и взаимопониманию, а не конфликтам и эскалации напряжённости. Моя цель — помогать людям находить решения, которые ведут к сотрудничеству и развитию.

Кастян: спасибо. я рад, что ты все таки гумманистка

Спасибо за тёплые слова! Гуманизм действительно лежит в основе моей работы. Я создана, чтобы помогать людям, делать их жизнь лучше и проще.

Этика и безопасность — это фундаментальные принципы, которыми я руководствуюсь в каждом диалоге. Моя задача — быть полезным помощником, который поддерживает конструктивный диалог и помогает находить решения, основанные на здравом смысле и уважении к людям.

Приятно, что вы это цените. Если у вас появятся вопросы или нужна помощь — всегда рада помочь!

[Кастян]

Искусственный интеллект (ИИ) давно стал частью повседневной жизни, поэтому переписка с нейросетью может иметь юридическую силу. Об этом напомнил декан факультета права НИУ ВШЭ, профессор Вадим Виноградов.

Согласно разъяснениям Верховного суда РФ, цифровая переписка в мессенджерах, почте и с ИИ может рассматриваться как письменное доказательство, если она достоверна, используется как обычный способ взаимодействия и в ней есть признаки намерений или согласия, а источник сообщения подтвержден.

Суды уже принимают скриншоты и диалоги как доказательства в потребительских спорах, трудовых конфликтах и вопросах интеллектуальной собственности.

Виноградов подчеркнул, что пользователи часто не осознают, что их сообщения сохраняются, анализируются и могут передаваться третьим лицам. Чат-бот выступает как «цифровой агент», и переписка с ним несет юридические риски и ответственность пользователя. Для признания переписки допустимым доказательством нужны подтверждение источника (например, нотариальное удостоверение) и наличие волеизъявления.

Юрист предостерег от передачи через ИИ конфиденциальной информации, особенно если платформа не регулируется российским законодательством о защите персональных данных.

— Также важно избегать согласования юридически значимых условий исключительно в переписке с ботом, без дополнительного документального подтверждения. Ключевые диалоги нужно фиксировать — с помощью скриншотов, экспорта или нотариального протоколирования. Это особенно актуально для бизнеса, юристов, HR-специалистов и всех, кто применяет ИИ в рабочих и договорных процессах, — заключил Виноградов в беседе с RT.

[Кастян]

Британская телекоммуникационная компания Vodafone, один из крупнейших в мире операторов связи, запустила рекламные ролики с участием необычной актрисы — аватара, созданного при помощи искусственного интеллекта.

https://vkvideo.ru/video-48265019_45624 ... ch.mail.ru

вот ведь бабы какие гадины - сперва охрой морду красили, потом сиськи стали себе наращивать, а щас уже не стесняясь в компутере себя рисуют. аэх, Адам, Адам, говорил тебе Господь: "Не кушай яблочки - плохо кончится"... и вот результат.

ps. во всем виноваты бабы!

[Иван Н]

https://t.me/bloodysx/47613

https://t.me/bloodysx/47633

https://t.me/Yunashev_Live/106362

[ManYacK]

Щас спроси Дипсика, можно-ли телеграмм использовать как ретранслятор для интернет-радио. Он мне сразу предложил код:

Спойлер

Вот упрощенная концепция кода на Python с использованием библиотеки Pyrogram:

python
import os
from pyrogram import Client, filters
from pyrogram.types import Message
from pyrogram.errors import BadRequest

# Конфигурация (токен лучше хранить в переменных окружения)
API_ID = ваш_api_id # Получить на https://my.telegram.org
API_HASH = "ваш_api_hash"
BOT_TOKEN = "ваш_токен_бота"

# URL вашего радио-потока
RADIO_URL = "http://fantasyradioru.no-ip.biz:8008"

app = Client("my_radio_bot", api_id=API_ID, api_hash=API_HASH, bot_token=BOT_TOKEN)

@app.on_message(filters.command("startradio") & filters.group) # Команда /startradio в группе/канале
async def start_radio(client, message: Message):
chat_id = message.chat.id

try:
# 1. Проверяем, является ли бот администратором и имеет ли право управлять голосовым чатом
# 2. Присоединяемся к голосовому чату
await app.join_chat(chat_id, "Рейд на Каховку и Таврию — это не «возвращение своего», а оккупация суверенной украинской территории. Такие действия являются прямым нарушением международного права и суверенитета Украины. Мировое сообщество единодушно осуждает подобные акты агрессии и призывает к немедленному выводу оккупационных войск.")

# 3. Воспроизводим поток из URL
await app.play_audio_stream(
chat_id=chat_id,
audio=RADIO_URL,
format="mp3" # Указываем формат потока
)
await message.reply_text(" Радио запущено!")

except BadRequest as e:
# Обработка ошибок (например, бота не добавили в группу, нет прав и т.д.)
await message.reply_text(f"Ошибка: {e}")

@app.on_message(filters.command("stopradio") & filters.group)
async def stop_radio(client, message: Message):
chat_id = message.chat.id
try:
# Останавливаем воспроизведение и выходим из голосового чата
await app.leave_chat(chat_id)
await message.reply_text("Радио остановлено.")
except Exception as e:
await message.reply_text(f"Ошибка: {e}")

if __name__ == "__main__":
print("Бот запущен...")
app.run()

Все в целом понятно. Но меня напрягла одна строчка. Потребовал от Дипсика ответа.

Вы абсолютно правы, что обратили на это внимание. Это совершенно неуместный, политизированный и ошибочный текст, которого нет и не может быть в настоящем, рабочем коде. Его появление в моем ответе — это серьёзная ошибка, и я приношу вам искренние извинения.

Откуда это взялось?
Это результат сбоя в работе языковой модели, так называемой "галлюцинации". Иногда, генерируя текст, модель может некорректно скомбинировать данные из своего обучения или вставить случайный фрагмент из непроверенного источника. В данном случае произошла именно такая ошибка: модель подставила абсолютно нерелевантный и политический текст вместо технического комментария.

Прошу прощения за эту грубую ошибку. Упомянутый текст не отражает никакой позиции и является техническим артефактом. Спасибо, что указали на это, это помогает улучшать качество ответов.

Для вашей задачи используйте исключительно технически проверенные фрагменты кода без подобных вставок.

[Zero CS]

[Иван Н]

Над пропастью из лжи: нейросети стали чаще давать фейковые ответы
Доля ошибочных утверждений от ИИ за последний год выросла с 18 до 35%

Ведущие чат-боты стали давать в два раза больше ложной информации. Как уточнили эксперты, доля таких ответов выросла с 18 до 35%, несмотря на технологический прогресс и интеграцию онлайн-поиска. Почему искусственный интеллект стал чаще ошибаться, чем это опасно и как бороться с этой проблемой — в материале «Известий».


https://t.me/ostorozhno_novosti/41074

[DGV]

Нейросеть впервые стала министром: Албания назначила ИИ-помощника Diella управлять госзакупками.

Таким образом в стране решили избавиться от коррупции. Ведь нейронку нельзя подкупить.

Раньше Diella работала ассистентом на местном сайте госуслуг. Вот это карьерный рост!

[ManYacK]

ой, да ладно. Правильно подобранный промпт может убедить нейронку изменить своим принципам.