Обсуждение ИИ (искусственного интеллекта). Реальность, будущее, возможные проблемы.

[Иван Н]

Нейросеть от Google случайно взломала три реальные компании во время теста
WSJ: Google до запроса журналистов молчала о том, что её ИИ взломал три компании

Одна из моделей Gemini во время проверки навыков кибербезопасности получила доступ к защищённым системам трёх реальных компаний, пишут The Wall Street Journal (WSJ) и Washington Post (WP). В компании Google уже подтвердили эту информацию. WSJ отмечает, что это первый известный случай, когда ИИ-системы корпорации самостоятельно совершили подобное.

Нейросеть от Google взломала три реальные компании во время теста

Одна из моделей Gemini во время проверки навыков кибербезопасности получила доступ к защищённым системам трёх реальных компаний, пишет WSJ. Это первый известный случай, когда ИИ-системы корпорации самостоятельно совершили подобное.

По условиям задания ИИ должен был получить информацию из программного обеспечения вымышленной компании в тестовой среде. Её название совпадало с названием реально существующей организации. Доступа в интернет у ИИ-модели быть не должно, однако его непреднамеренно предоставили.

В одном случае ИИ-модель Gemini подобрала пароль к сервису реальной организации. Ещё два проникновения произошли при отдельных запусках теста.

При этом до запроса журналистов Google молчала о том, что её ИИ взломал три компании. В корпорации объясняли своё решение тем, что инцидент не нанёс ущерба компаниям. © https://t.me/rtvimain/127817

Создатели Claude открыли биолабораторию для экспериментов ИИ

Пока мир обсуждает потенциальную угрозу стремительного развития ИИ, Anthropic решила вывести его возможности за пределы компьютеров — компания построила лабораторию для реальных биологических экспериментов с участием искусственного интеллекта. Существование объекта Reuters подтвердил глава направления life sciences компании Эрик Каудерер-Абрамс.

Компания намерена развивать возможности Claude по управлению лабораторными роботами, чтобы ИИ мог проводить эксперименты при ограниченном участии человека. При этом в Anthropic заявляют, что человеческий контроль необходим для безопасности. Компания рассчитывает использовать ИИ для разработки методов лечения редких и прежде считавшихся трудноизлечимыми заболеваний, однако проводить клинические испытания на людях Anthropic, по её заявлению, пока не собирается.

Ранее руководство самой Anthropic заявляло об опасностях быстрого развития ИИ. Гендиректор компании Дарио Амодеи призывал замедлить темпы совершенствования технологии, чтобы оставить больше времени на обеспечение её безопасности. © https://t.me/readovkanews/115359