Мужчина поделился инцидентом в сообществе под заголовком «ChatGPT пытался убить меня сегодня». Когда он запросил рецепт чистящего раствора, нейросеть уверенно включила в состав опасные компоненты. Лишь после того, как автор поста указал на ошибку, алгоритм признал оплошность и извинился, подтвердив, что подобное сочетание химикатов смертельно опасно для человека.
Этот случай стал очередным напоминанием о рисках слепого доверия языковым моделям. Несмотря на способность ИИ генерировать связные тексты, система не обладает реальным пониманием физических свойств веществ и может выдавать вредоносные инструкции с полной уверенностью.
Комментарии (0)
Пока нет комментариев. Будьте первым!