«Нетоксичный алгоритм». Интервью с участниками хакатона "Прожектор 2021" о том, как вылечить сексизм переводчиков и чатботов
Слово «наука» по смыслу ближе к слову «мужчина», чем к слову «женщина», а к слову «женщина» близко слово «беспомощность». Это не языковой факт, а вывод, который делают алгоритмы, обучаясь на исторически накопленных языковых данных. Затем гендерные стереотипы воспроизводятся в автоматических переводчиках, чатботах и, например, при анализе вашего резюме. Принято считать, что лучшая защита от токсичности для алгоритма – обучение на нейтральных наборах данных, в которых никаких стереотипов нет.