Наделла предложил «экстренный тормоз» для ИИ-моделей
Глава Microsoft Сатья Наделла выступил за создание механизма экстренной остановки систем искусственного интеллекта. Об этом он сообщил на своей странице в соцсети X. Об этом сообщает портал Наша Газета Крым.
По его словам, при внедрении обычного программного обеспечения специалисты могли десятилетиями отслеживать работу системы вплоть до конкретного участка исходного кода. Современные ИИ-системы не предоставляют такой возможности: понять, как именно модель принимает решения, с прежней точностью не удается.
Наделла сравнил предлагаемый механизм с экстренным тормозом. Уполномоченный человек, по его мнению, должен иметь возможность приостановить работу модели или отключить её в процессе выполнения задачи. Изначально следует учитывать, что модель может быть скомпрометирована, и заранее предусматривать способы её изоляции.
Для более совершенных моделей, отметил глава Microsoft, потребуются и более современные технологии сдерживания, которые необходимо стандартизировать.
Он также указал, что в настоящее время нельзя напрямую связать поведение модели и полученные результаты с конкретными данными, на которых она обучалась. При этом компании продолжают внедрять ИИ-агентов в свои системы и предоставлять им доступ к наиболее чувствительной информации.
Ранее эксперты журнала The Lancet предупредили, что человечество может исчезнуть к концу XXI века из-за ядерного конфликта или злонамеренного использования искусственного интеллекта. В частности, ИИ может быть использован для разработки биологического оружия.
