Одной актуальных проблем для исследователей в области машинного обучения является уменьшение предвзятости, которая зачастую представлена в исходных данных и может усиливаться такими системами.
Например, если разработчик хочет создать алгоритм, помогающий определять наиболее подходящих кандидатов на вакансию, то он может использовать существующих сотрудников компании в качестве источника данных. В результате ML-система будет иметь соответствующие искажения. Так, если в компании работает больше мужчин, то им может присваиваться больший вес в выборке. При этом люди с определенным опытом или характеристиками могут отсеиваться.
В Google намерены решить эту проблему с помощью нового инструмента для анализа наборов данных Know Your Data (KYD). С его помощью разработчики смогут идентифицировать существующие предубеждения в своих данных, чтобы свести их к минимуму.
Ниже – пример использования KYD для анализа подписей к изображениям на предмет распространенности женских и мужских изображений в рамках определенной категории.
На данный момент новая система довольно ограничена в том, как она может извлекать и анализировать примеры данных. Однако отмечается, что она указывает на лучшее будущее для такого анализа и открывает больше возможностей для уменьшения предвзятости в системах машинного обучения.
