Обсуждение ИИ (искусственного интеллекта). Реальность, будущее, возможные проблемы.

[Prepinaki]

не надо же нажимать?

нет. Как правило, там управление по WiFi.

[111]

Искусственный интелект придумал новую жизнь.

Учёные из Стэнфорда* и Института Arc использовали нейросеть, чтобы создать новые вирусы. Они загрузили в неё ДНК уже существующих вирусов и попросили придумать новые. Из 302 сгенерированных вариантов 16 оказались полностью жизнеспособными: их удалось собрать в лаборатории, и они успешно заражали бактерии.

Один из новых вирусов оказался особенно необычным: в нём обнаружился белок, которого не существует ни в одном живом организме на Земле — ИИ буквально его придумал. Это как если бы нейросеть изобрела новую деталь для двигателя, которую до этого не делал ни один инженер, и эта деталь заработала бы. При испытаниях на кишечной палочке искусственные вирусы уничтожали бактерии на 25% быстрее природных аналогов. А когда бактерии «привыкали» к одному вирусу и переставали на него реагировать, смесь из нескольких ИИ-созданных вирусов всё равно справлялась — обходила защиту у трёх разных устойчивых штаммов.

Важно понимать масштаб произошедшего. ИИ-модель под названием Evo 2 — это своего рода ChatGPT для генетики: она обучена не на текстах, а на миллионах геномов бактериофагов. Впервые в истории геном, полностью придуманный нейросетью, оказался живым.

При этом, как отметил биолог Джеф Боеке из NYU, ИИ не просто копировал известные решения, но применял более сложные подходы — менял порядок генов, укорачивал их и добавлял принципиально новые.

Открывшиеся в связи с этим экспериментом перспективы трудно переоценить. Во-первых, это прорыв в борьбе с антибиотикорезистентностью: искусственно созданные вирусы могут лечить бактериальные инфекции там, где перестали работать известные антибиотики. Во-вторых, такие вирусы способны стать «курьерами» для доставки лечебных генов напрямую в клетки человека, а это может открыть новую эру генной терапии. Наконец, связка Evo 2 и нового инструмента синтеза ДНК Sidewinder делает создание искусственных геномов в тысячу раз дешевле и быстрее — организмы, разработка которых раньше занимала месяцы, теперь можно создавать за дни.

Есть, конечно, и обратная сторона медали: та же технология теоретически позволяет создавать патогены, которые стандартные системы защиты попросту не распознают.

Тем не менее, ящик Пандоры уже открыт. Вопрос в том, как этим управлять.

* — внесён в список иностранных и международных организаций, чья деятельность на территории Российской Федерации признана нежелательной

[Саня]

Искусственный интелект придумал новую жизнь.

Учёные из Стэнфорда* и Института Arc использовали нейросеть, чтобы создать новые вирусы. Они загрузили в неё ДНК уже существующих вирусов и попросили придумать новые. Из 302 сгенерированных вариантов 16 оказались полностью жизнеспособными: их удалось собрать в лаборатории, и они успешно заражали бактерии.

Один из новых вирусов оказался особенно необычным: в нём обнаружился белок, которого не существует ни в одном живом организме на Земле — ИИ буквально его придумал. Это как если бы нейросеть изобрела новую деталь для двигателя, которую до этого не делал ни один инженер, и эта деталь заработала бы. При испытаниях на кишечной палочке искусственные вирусы уничтожали бактерии на 25% быстрее природных аналогов. А когда бактерии «привыкали» к одному вирусу и переставали на него реагировать, смесь из нескольких ИИ-созданных вирусов всё равно справлялась — обходила защиту у трёх разных устойчивых штаммов.

Важно понимать масштаб произошедшего. ИИ-модель под названием Evo 2 — это своего рода ChatGPT для генетики: она обучена не на текстах, а на миллионах геномов бактериофагов. Впервые в истории геном, полностью придуманный нейросетью, оказался живым.

При этом, как отметил биолог Джеф Боеке из NYU, ИИ не просто копировал известные решения, но применял более сложные подходы — менял порядок генов, укорачивал их и добавлял принципиально новые.

Открывшиеся в связи с этим экспериментом перспективы трудно переоценить. Во-первых, это прорыв в борьбе с антибиотикорезистентностью: искусственно созданные вирусы могут лечить бактериальные инфекции там, где перестали работать известные антибиотики. Во-вторых, такие вирусы способны стать «курьерами» для доставки лечебных генов напрямую в клетки человека, а это может открыть новую эру генной терапии. Наконец, связка Evo 2 и нового инструмента синтеза ДНК Sidewinder делает создание искусственных геномов в тысячу раз дешевле и быстрее — организмы, разработка которых раньше занимала месяцы, теперь можно создавать за дни.

Есть, конечно, и обратная сторона медали: та же технология теоретически позволяет создавать патогены, которые стандартные системы защиты попросту не распознают.

Тем не менее, ящик Пандоры уже открыт. Вопрос в том, как этим управлять.

* — внесён в список иностранных и международных организаций, чья деятельность на территории Российской Федерации признана нежелательной

Звучит как начало зомби-апокалипсиса.

[Вело-рок]

Тем не менее, ящик Пандоры уже открыт.

Первыми на себе будут испытывать два очень известных чела.
Один русский, второй китаец.
Их корреспонденты, или кто там, подслушали когда они это обсуждали.

[ManYacK]

Черноморочка, Алиса только напругу сможет на него подать. Кто-то должен еще и кнопочку нажать на неумном чайнике

и водичку налить... умный чайник - самая маркетинговая туфта. Сначала говорят: "Наливайте в электрочайник воды только на один прием, чтобы не остывала неиспользуемая вода". А а теперь: "налейте полный чайник чтобы умная Алиса могла 3-4 раза вскипятить (и остудить) большой объем сразу".
Ну ок, Алиса его вскипятит - так все равно ведь придется идти к чаинку, чтобы водичку в кружку налить. Тогда уж проще иметь кулер который постоянно по запросу выдает сразу горячую воду прям в кружку без всяких умных посредников.

Не, ну я еще готов мириться с умной кофеваркой, которая готовит кофе заблаговременно и надо лишь подойти и взять кружку - но это для истинных гурманов.

[Саня]

и водичку налить... умный чайник - самая маркетинговая туфта. Сначала говорят: "Наливайте в электрочайник воды только на один прием, чтобы не остывала неиспользуемая вода". А а теперь: "налейте полный чайник чтобы умная Алиса могла 3-4 раза вскипятить (и остудить) большой объем сразу".
Ну ок, Алиса его вскипятит - так все равно ведь придется идти к чаинку, чтобы водичку в кружку налить. Тогда уж проще иметь кулер который постоянно по запросу выдает сразу горячую воду прям в кружку без всяких умных посредников.

А я пользуюсь умным чайником. Вполне удобно. "Алиса, включи чайник!" и сидишь дальше, занимаешься своими делами. Слышишь, закипает, идешь наливать чай. Если воды в нем мало, то слышно, что он слишком быстро закипает. Чтобы вода в чайнике была, нужно ее сразу наливать, как вылил полностью.
А кулер будет места на кухне занимать больше, чем чайник.

[domovoj]

Саня, купи термопот, тот все время горячий стоит

[Саня]

Саня, купи термопот, тот все время горячий стоит

Было 2 термопота, пока доча маленькая была и вода часто горячая нужна была. Сдохли со временем оба. Да, удобно, когда часто пользуешься. Если целый день не пользуешься, то какой смысл его греть весь день?
Кстати, а еще я могу спросить у Алисы, какая температура у умного чайника сейчас и попросить подогреть до определенной температуры. Такой фишкой пользуюсь редко, только когда надо зеленый чай заварить.

[Zero CS]

Тьфу на вас со всеми этими бесовскими причудами.

Девку надо держать дворовую. И никакого интернета вашего окаянного не надобно, и даже без електричества обходится. Крикнул ей: "Лизка! Набуровь чаю немедля!". Она такая: "Сей минут, барин!". И будет усё в лучшем виде.

[BallantineS]

Девку надо держать дворовую. И никакого интернета вашего окаянного не надобно, и даже без електричества обходится. Крикнул ей: "Лизка! Набуровь чаю немедля!". Она такая: "Сей минут, барин!". И будет усё в лучшем виде

Девка однозначно лучше! И глазу услада..и не только глазу.

[Zero CS]

[Иван Н]

Притяжение магнатов: громкий процесс об этике ИИ оказался переделом рынка чат-ботов
Что скрывается за альтруистическими заявлениями Илона Маска о защите интересов человечества

В США стартовал громкий процесс об этике использования нейросетей. В окружном суде Окленда начался отбор присяжных по иску Илона Маска к компании OpenAI и её руководителям Сэму Альтману и Грегу Брокману. Владелец SpaceX и Starlink обвиняет своего делового партнёра в обмане. Якобы тот обещал, что разработчик ChatGPT— OpenAI — будет оставаться некоммерческой организацией, работающей на благо человечества. Илон Маск утверждает, что пожертвовал на эти цели около $40 млн, однако впоследствии проект превратился в многомиллиардный бизнес. Теперь инвестор требует вернуть компании изначальный статус и направить полученные доходы на общественно полезные цели. Эксперты считают, что процесс выходит за рамки частного спора и отражает более широкий передел влияния на глобальном рынке искусственного интеллекта, где у Маска также есть собственные стратегические интересы.

[Иван Н]

Две флагманские нейронки за сутки. Что предлагают GPT-5.5 и DeepSeek V4?
OpenAI представила новое поколение большой языковой модели — GPT-5.5. Спустя несколько часов случился релиз DeepSeek V4 от одноимённого китайского стартапа. Сравниваем заявленные возможности и результаты тестов обеих моделей.


Эксперты призвали США запретить экспорт ИИ-чипов в Китай

Администрация Дональда Трампа сталкивается с призывами прекратить экспорт передовых чипов для искусственного интеллекта в Китай после предупреждения Белого дома о попытках Пекина копировать американские технологии. Об этом сообщает Nextgov/FCW со ссылкой на письмо группы Americans for Responsible Innovation.

[Иван Н]

Бывший топ-менеджер Google сравнил нынешний ИИ с первой версией Windows
Бывший главный операционный директор Google X Мо Годат считает, что на текущем этапе развития ИИ — инструмент техноэнтузиаста, а не массового пользователя. Однако он уверен, что каждые полгода способности ИИ будут удваиваться

https://t.me/rbc_news/148113


Сооснователь Positive Technologies оценил перспективы суверенизации ИИ
Сооснователь Positive Technologies призвал не закреплять догматически пути создания суверенного ИИ, чтобы не остановить развитие. При этом, по мнению Юрия Максимова, нужна модель, «которую не отберут и через которую не взломают»

https://t.me/rbc_news/148124


Маск предположил, что развитие ИИ может закончиться, «как в «Терминаторе»
Илон Маск заявил, что бесконтрольное развитие искусственного интеллекта может привести к уничтожению человечества. Миллиардер считает, что ИИ нужно развивать по принципу симбиоза с человеком

https://t.me/rbc_news/148414

[Иван Н]

Раскрыты главные опасности приложений с искусственным интеллектом
ИИ-эксперт Волынец: нельзя доверять ИИ в финансовых и медицинских сервисах

Спойлер

Компании активно встраивают нейросети в свои сервисы — это позволяет ускорять обработку запросов, автоматизировать поддержку и быстрее выводить новые функции на рынок. Однако вместе с удобством такие технологии создают и ряд системных рисков, о которых важно понимать заранее, рассказала «Газете.Ru» эксперт по внедрению нейросетей в процессы тестирования ПО Игорь Волынец.

«Существует главная проблема — это слишком сильное доверие пользователей к результатам работы ИИ. Популярность нейросетей создаёт ощущение точности и надёжности, хотя внутри моделей нет механизма гарантированной проверки достоверности ответа», — отмечает он.

По его словам, наибольшей опасностью являются ошибки в финансовых, медицинских и юридических сервисах, где некорректность ответа напрямую влияет на решения пользователей и может принести вред здоровью или денежные потери. С одной стороны, удобно иметь личного доктора широкого профиля в своём смартфоне, но с другой — однажды можно получить ошибочный совет, который уведёт вас в неправильную сторону и в лучшем случае затянет лечение на неопределённый срок.

«С технической точки зрения, подавляющее большинство приложений на базе LLM (технология, на которой основан ИИ) не обладают системой валидации ответов. То есть модель генерирует результат на основе вероятностей и фактически не проверяет данные перед ответом, поэтому даже корректно сформулированный на первый взгляд ответ может содержать серьёзные неточности», — объясняет эксперт.

Ещё один дополнительный риск связан с обработкой пользовательских данных, которые могут передаваться третьим лицам.

«Многие приложения запрашивают очень много доступов, которые для работы им просто не нужны. Например, доступ к переписке, документам или голосу пользователя. При этом система хранения и обработки этих данных часто непрозрачна, особенно в продуктах молодых небольших команд или стартапов. Не всегда ясно, в каких целях полученные данные будут использоваться разработчиками», — добавляет он.

Это увеличивает вероятность утечек и неконтролируемого использования информации. Несмотря на это, компании продолжают активно внедрять ИИ в мобильные приложения. Это делается по многим причинам. Например, ИИ позволяет снижать нагрузку на команды поддержки, также нейросети позволяют автоматизировать рутинные задачи и ускорять развитие продукта.

«С машинной точки зрения ИИ действительно хорошо масштабирует повторяющиеся процессы. Но нужно отдавать себе отчёт, что это не замена экспертизе, а инструмент, требующий пока ещё контроля и тестирования», — подчеркивает Волынец.

Он также отмечает, что поведение моделей может быть нестабильным.

«ChatGPT хоть и является по моему мнению лучшей моделью для общих среднестатистических вопросов, но она, как и многие другие модели, работает на основе вероятностей, поэтому без дополнительных ограничений и тестов одна и та же система может выдавать разные ответы на одинаковые запросы. Это нормальное свойство модели, но его необходимо учитывать при проектировании пользовательских сценариев», — говорит эксперт.

Кроме того, огромное количество правильных ответов формирует у пользователя иллюзию «полного доверия», хотя на самом деле модель не осознаёт смысл, а лишь оперирует статистическими зависимостями. То есть выдаёт наиболее вероятный ответ.

Это может вводить в заблуждение, если пользователь слишком доверяет ИИ.

Также стоит учитывать бизнес-модель многих агентов: часто приложения предлагают базовый функционал бесплатно, но ограничивают ключевые возможности подпиской, побуждая пользователей покупать платную версию. В итоге человек привыкает пользоваться приложением, а затем ему предлагают перейти на дорогую подписку.

В целом, по мнению Игоря Волынца, развитие ИИ в мобильных приложениях — это логичный и закономерный этап эволюции индустрии разработки ПО, но его внедрение требует адекватного инженерного подхода. При этом во многих российских и не только компаниях остаётся низкое качество защиты данных пользователей. Поэтому пользователям необходимо внимательнее относиться к своим персональным данным и запросам к ИИ, чтобы их данные не стали достоянием общественности.

«Мало просто внедрить ИИ в приложение, необходимо обеспечить контроль качества его работы, прозрачность обработки данных и предсказуемость поведения, — резюмирует эксперт. ©

https://t.me/gazetaru/67225

[111]

Очередной прикольный ролик от ии. Я б сходил посмотреть
https://m.vkvideo.ru/video-189521743_45 ... kCjbzdkrJO

[Иван Н]

Не там смотрите: что на самом деле происходит с генеративным ИИ
Управляющий директор по искусственному интеллекту «Авито» Андрей Рыбинцев — о том, где на самом деле произошёл ключевой сдвиг в генеративном ИИ


ИИ помог приблизиться к решению математической задачи Эрдеша — над ней бились более 60 лет

Речь о задаче 1196, связанной с примитивными множествами — наборами чисел, в которых ни одно не делится на другое нацело. Пал Эрдеш предполагал, что по мере роста элементов сумма по определённой формуле стремится к 1, однако десятилетиями математикам не удавалось строго это доказать. Попытку неожиданно предпринял 23-летний Лиам Прайс — он отправил задачу в новую версию ChatGPT, которая в течение 80 минут выдала решение с новой математической идеей, пишет Scientific American.

Предложенное моделью решение оказалось сырым и слабо оформленным, однако ключевая идея — рабочей. ИИ пошёл иным путём: вместо традиционных подходов он использовал инструменты из другой области, которые ранее считались неприменимыми к этой задаче. Один из ведущих математиков современности Теренс Тао увидел это решение и вместе с коллегой помог его доработать, выделив ключевую идею из запутанного вывода модели. Теперь учёные видят в этом новые горизонты, и, возможно, ИИ сможет стать «навигатором», помогая находить решения в других сложнейших научных задачах. © https://t.me/readovkanews/109816


В Китае создают цифровых бывших с помощью ИИ.

Пользователи загружают на платформы переписку, фотографии и контент из социальных сетей, после чего система формирует базовую модель с помощью инструмента Ex-partner.skill — специального модуля, который собирает скелет виртуального персонажа и воспроизводит ключевые черты поведения человека.

Затем виртуального персонажа можно обучать дальше — добавлять воспоминания о поездках, привычках, совместных датах и даже ссорах. Это позволяет сделать копию более точной — вплоть до интонаций, речевых оборотов и логики мышления.

Пользователи такой технологии считают, что она помогает справиться с расставанием, прожить незакрытые эмоции и снизить чувство утраты. По их мнению, это безопасная форма психологической поддержки.

Однако критики считают, что так нарушается приватность (особенно если данные используются без согласия второго человека), формируется эмоциональная зависимость и измены реальных отношений цифровыми. © https://t.me/bloodysx/55041

[Иван Н]

Кастян, что ты думаешь о таких юридических нюансах?

Переписка с ChatGPT стала уликой в уголовном деле.

А вы думали, что это останется только между вами и нейросетью?

В прошлом месяце пропали двое выпускников Университета Южной Флориды. Позднее соседу одного из них, Хишаму Абугарбие, было предъявлено обвинение по двум пунктам в убийстве первой степени, пишет CNN. Незадолго до исчезновения студентов он задавал ChatGPT вопрос:

Что будет, если человека засунуть в чёрный мусорный мешок и выбросить в контейнер для отходов?

Следом он спросил:

Как можно будет его обнаружить?

Эта переписка стала официальной уликой в уголовном деле. Один из последних случаев, когда следователи используют чат с искусственным интеллектом в качестве доказательства в уголовных делах. Аналогичным образом переписка с ChatGPT была использована в деле о поджогах во время лесных пожаров в Лос-Анджелесе, а переписка с ИИ в Snapchat стала ключевым доказательством в судебном процессе по делу об убийстве в 2024 году в Вирджинии. Для следователей эти чаты могут стать ценным источником информации о мышлении и мотивах подозреваемого.

Генеральный директор OpenAI Сэм Альтман заявил, что отсутствие конфиденциальности — это «огромная проблема».

Люди рассказывают ChatGPT о самых сокровенных вещах в своей жизни, — сказал Альтман в июле прошлого года в подкасте с комиком Тео Воном. — Люди используют его, особенно молодёжь, как психотерапевта, лайф-коуча, когда у них возникают проблемы в отношениях. “Что мне делать? ”

На прошлой неделе генеральный прокурор Флориды начал уголовное расследование в отношении компании OpenAI, заявив, что ChatGPT дал «важные советы» подозреваемому в массовой стрельбе в Университете штата Флорида. В Канаде семьи жертв февральской стрельбы в школе в среду подали в суд на OpenAI и Альтмана, обвинив компанию и её чат-бота ChatGPT в причастности к нападению.

OpenAI заявила о своей «приверженности обеспечению безопасности сообщества».

Мы продолжим уделять приоритетное внимание безопасности, соблюдая баланс между конфиденциальностью и другими гражданскими свободами, чтобы иметь возможность реагировать на серьёзные риски.

© https://t.me/bloodysx/55061

[Кастян]

Кастян, что ты думаешь о таких юридических нюансах?

Переписка с ChatGPT стала уликой в уголовном деле.

я читал про это. любая инфа в ентирнете (текст, картинка, видео, музыка, биткоин) попадают под определение "электронный документ" так как любой электронный документ состоит из байтов. то есть является осязаемым.

как гласят два основных Закона любого судебного процесса (в Омерике, Никарагуа или в Караганде - не важно):

1. каждая из сторон обязана доказать...
2. суд принимает решение исходя из оценки... по существу.

как гласит старинная ментовская поговорка "То, что вы до сх пор не сидите, это не ваша заслуга, это - наша недоработка."

поэтому щитаю вполне естественным, что опера и прокуроры хакают гражданские ГПТ-чаты и на их основе строят доказательную базу. надеяться, что... как пишут в инструкциях "ВСЕ КОНДФИДЕЦИАЛЬНО, БРАТАН!... очень глупо.

[ManYacK]

тут вопрос казуистики. Ну да, все знаю кто виноват - но посадить не могут - адвокаты отмазывают, ибо букву закона можно обойти. Потому лишний источник улик лишним не будет.

А чтобы усиленно садить невиновного - ну зачем, если с избытком улик можно посадить виноватого. А есть невиновный сам на себя накропал улик - ну так сам виноват получается.