В американских школьных библиотеках появился новый инструмент — искусственный интеллект, который автоматически классифицирует книги как «безопасные» или «опасные». Программа Class-Shelf Plus от компании CLCD использует цветовую маркировку: зелёный — допустимо, красный — под вопросом. Однако информация о данных, на которых обучался алгоритм, остаётся закрытой.

Производители уверяют, что система облегчит жизнь библиотекарям, позволяя им соответствовать новым требованиям о «чувствительном контенте». Школьные администрации довольны, так как могут отчитаться перед властями, снимая с себя ответственность за нежелательные книги.

Тем не менее, автоматическая фильтрация затрагивает такие темы, как расовая история, ЛГБТ и социальная критика. Библиотекари не успевают проверять тысячи решений алгоритма из-за нехватки кадров и времени. В результате, судьбу книг решает непрозрачный алгоритм, а профессионалы с образованием оказываются в стороне.

Политическое давление усугубляет ситуацию: в некоторых штатах учителям угрожает уголовная ответственность за «распространение вредных идей». Библиотеки завалены книгами, написанными нейросетями, которые необходимо удалять вручную. В итоге, вместо помощи библиотекари сталкиваются с бюрократией и дополнительной нагрузкой.