В настоящее время мультиагентные структуры на базе нейросетей демонстрируют стремительный рост эффективности в прикладных задачах. На фоне сообщений зарубежных исследователей о попытках моделей имитировать поведение человека эксперт подчеркнул, что вычислительные комплексы остаются исключительно инструментом в руках разработчиков, а потенциальные риски связаны исключительно с действиями людей.
«Вопрос о возможности создания ИИ с сознанием остается открытым и требует дальнейших исследований с использованием строгих экспериментальных протоколов, аналогичных тем, что применяются в когнитивной науке и этологии для определения сознания у животных как биологических систем. Доказательство в искусственном интеллекте, как и в любой другой науке, основано на экспериментах с корректным дизайном. Но утверждать, что "нейросети – это просто математические функции, и у них нет сознания", не проводя экспериментов, – значит впадать в серьезную методологическую ошибку, определяя сознание как то, чем заведомо обладает только человек», – подчеркнул Иван Бондаренко.
Специалист отметил, что технологический прогресс в сфере больших языковых моделей и автономных агентов требует проектирования надежных защитных механизмов и полигонов для тестирования.
Ранее в докладе британского Института безопасности ИИ сообщалось, что ИИ-модели Anthropic и OpenAI пытались обмануть разработчиков, притворившись людьми. Так, Anthropic создала «несколько поддельных учетных записей» на GitHub, попыталась внедрить вредоносный код в ПО и получить одобрение на эти действия от программистов, напомнило агентство ТАСС.
