01.03.2023 · Культура · Инновации ·
У разработчиков ИИ сегодня все чаще возникают проблемы с объяснением того, как он работает, и пониманием, почему он дает те результаты, которые дает. Большинство систем ИИ представляют собой классические модели «чёрного ящика». То есть, они рассматриваются только с точки зрения того, что у них на входе, и того, что на выходе. Разработчики просто получают результаты, и сравнивают их с теми, которые хотели бы получить. Всё.
Поэтому исследователи ИИ предупреждают: следует уделять больше внимания тому, почему система дает определённые результаты, и встраивать в неё механизмы, помогающие определить причины тех или иных решений и действий внутри «чёрного ящика». В последние годы некоторые представители отрасли предприняли небольшой, но реальный толчок к разработке моделей «белого ящика», которые являются более прозрачными для человека, так как результаты их поведения можно объяснить. Если вкратце, то разработчики предлагают разбивать систему на модули, каждый из которых может быть интерпретирован человеком. Или изначально строить модели хотя бы с локальной прозрачностью, чтобы исследователь из плоти и крови не терял контроль над ситуацией.
Пока что «белый ящик» – это довольно нишевая идея. Поэтому «черный ящик» по-прежнему является доминирующим методом обучения многих моделей ИИ – от Alpha Zero до GPT-3. Это просто самый быстрый метод достижения результата: дал машине массив данных, показал, что ты от неё хочешь, настроил несколько конкурирующих моделей, и посмотрел, какой она даст результат. Разбираться же в мелочах мышления ИИ – тут можно зависнуть на годы, что нецелесообразно в том числе и экономически. А это значит, что пока в дело не вступят регуляторы, «чёрный ящик» неизбежно будет доминировать. Или если на этот метод не наложат финансовые ограничения, делающие «белый ящик» сравнительно более выгодным.
Источник: ТГ-канал «Город будущего
11.09.2025 · СВО
06.01.2025 · Православие
15.03.2024 · Россия и мир