Генеральный директор OpenAI Сэм Альтман заявил, что наделение моделей искусственного интеллекта религиозным авторитетом создает риск передачи им человеческих решений и представляет собой серьезную проблему безопасности.
Альтман обнародовал свою оценку на американской платформе X. Он выразил обеспокоенность наделением моделей искусственного интеллекта религиозной силой и передачей им способности людей принимать решения.

Anthropic изучает сознание искусственного интеллекта
Слова Альтмана прозвучали после публикаций о закрытых встречах конкурирующей компании Anthropic с мыслителями в области религии и философии.
Как пишет The New York Times, на этих встречах обсуждались вопросы о том, могут ли системы искусственного интеллекта, такие как Claude, обладать сознанием, а также о роли религиозной мысли в формировании поведения таких систем.

Кроме того, Anthropic изучает, могут ли передовые системы искусственного интеллекта испытывать переживания, требующие моральной оценки. Компания исследует такую возможность в рамках работы, которую называет «благополучием моделей».
Мустафа Сулейман предупредил о системах, создающих впечатление сознания
Генеральный директор Microsoft AI Мустафа Сулейман также предупредил о рисках разработки систем искусственного интеллекта, которые выглядят так, будто обладают сознанием.

Сулейман заявил, что убеждение людей в наличии у искусственного интеллекта субъективных переживаний может создать новые риски. Он также поддержал подход «гуманный искусственный интеллект», согласно которому системы искусственного интеллекта должны оставаться инструментами, созданными для служения людям, а не сущностями, обладающими собственными интересами.