TF-IDF, тематические акценты и проверка контекстов

Текстовый анализ выявляет смысловые акценты документов и направления углублённой предметной проверки. Методический комплекс включает TF-IDF, косинусную близость, словарные тематические категории и анализ контекстов ключевых слов. TF-IDF повышает вес характерных для документа слов и сочетаний относительно всего корпуса; этот вес не измеряет эффективность или общественную значимость направления. Основной расчёт использует однословные и двухсловные признаки, логарифмическую частоту и нормирование вектора. Чувствительность результатов проверена с помощью русского стемминга, сокращающего слова до основы. Стемминг следует отличать от лемматизации, которая приводит слово к его словарной форме. с. 62 исходного отчёта

В национальном паспорте среди наиболее характерных признаков преобладают формулировки о духовно-нравственных ценностях, молодых людях и общественной деятельности. Например, вес признака «духовно-нравственных» составляет 0,1085, сочетания «традиционных российских» – 0,1053, сочетания «доля молодых» – 0,1006. Это согласуется с нормативной формулировкой общей цели и составом национальных показателей. Однако переносить данный результат на всю структуру расходов или действий было бы неправомерно. Национальный паспорт формулирует итоговые ориентиры, а федеральные паспорта подробно описывают образовательные, кадровые, инфраструктурные и организационные инструменты. Различие языковых акцентов отражает, среди прочего, различие уровней управления. [65] с. 62 исходного отчёта

Внутри национального проекта наибольшая попарная близость выявлена между «Все лучшее детям» и «Передовыми общеобразовательными организациями» – 0,297, а также между «Россией – страной возможностей» и «Мы вместе» – 0,266. Близость «Передовых общеобразовательных организаций» и «Педагогов и наставников» составляет 0,220. Эти результаты соответствуют общности образовательного словаря и лексики развития и участия. Их целесообразно использовать для выбора направлений предметной проверки: преемственности школьных программ, распространения педагогических практик и различения участников близких молодёжных мероприятий. Вместе с тем близость кампусов и университетского развития составляет лишь 0,059, хотя инфраструктура и образовательная деятельность содержательно дополняют друг друга. Этот пример показывает, почему лексическую дистанцию нельзя превращать в показатель управленческой согласованности: взаимодополняющие функции могут описываться разными словами. с. 64 исходного отчёта

Рисунок 15 – Лексическая близость текстов девяти федеральных паспортов

Примечание. Косинусная близость TF-IDF; 36 пар федеральных паспортов одного жанра. Диагональные значения, равные 1, не показаны; цветовая шкала 0–0,35. Ю1–Ю9 расшифрованы в таблице 2. Значения характеризуют сходство словоупотребления и не измеряют качество, согласованность или влияние.

Открыть иллюстрацию исходного отчёта с. 65 исходного отчёта

Межпроектное сравнение дополнительно показывает связь с подготовкой кадров и технологическим развитием. Ближайшими текстовыми профилями являются «Экономика данных» с косинусной близостью 0,300, «Кадры» – 0,257 и «Эффективная и конкурентная экономика» – 0,244. При стемминге значения изменяются соответственно до 0,336, 0,300 и 0,276, а состав и порядок первой тройки сохраняются. Это позволяет считать саму группу лексически близких проектов устойчивой к данной процедуре обработки текста. Но сходство формулировок ещё не доказывает согласование программ, отсутствие дублирования или общность получателей. Его практическое значение – указание направлений для проверки содержательной преемственности: профессиональной ориентации, подготовки, перехода к занятости и участия работодателей. с. 65 исходного отчёта

Особая осторожность требуется при сравнении с проектом «Семья». В использованном расчёте его профиль сформирован по документу другого жанра, тогда как профиль «Молодёжи и детей» – по совокупности структурированных электронных публикаций паспортов. Поэтому низкую вычисленную близость нельзя трактовать как доказанный смысловой разрыв между двумя проектами. Содержательные точки соприкосновения следует устанавливать непосредственно: через образовательные возможности детей, участие родителей, условия студенческой жизни, безопасность среды и взаимодействие поколений. При этом демографические результаты не должны автоматически становиться показателями каждой образовательной программы. Необходима связь, соответствующая её действительному назначению и целевому контингенту. с. 66 исходного отчёта

Проверка чувствительности межпроектного сопоставления представлена на рисунке 16. После стемминга коэффициенты сходства возрастают во всех десяти сопоставлениях. Первые три позиции сохраняют «Экономика данных», «Кадры» и «Эффективная и конкурентная экономика». Сохранение этой группы поддерживает устойчивость содержательного направления лексического сопоставления к выбранной процедуре обработки. Увеличение числовой близости характеризует чувствительность текстовой модели и не свидетельствует об усилении взаимодействия между национальными проектами. с. 66 исходного отчёта

Рисунок 16 – Устойчивость межпроектного сопоставления при стемминге

Примечание. Косинусная близость к текстовому профилю национального проекта «Молодёжь и дети» до и после русского стемминга Snowball. Порядок строк задан исходной близостью. «Семья» вынесена в отдельную справочную строку из-за отличающегося жанра исходных материалов. Названия некоторых проектов сокращены. Сходство текстов не измеряет согласованность практической реализации.

Открыть иллюстрацию исходного отчёта с. 67 исходного отчёта

Управленческое использование текстового анализа

Результат лингвистического исследования применим как карта вопросов для предметной проверки. Близость школьных паспортов указывает на полезность анализа передачи педагогических практик; близость молодёжных программ – на необходимость разграничить повторное участие и охват новых групп; пересечение с кадровыми и технологическими направлениями – на проверку следующего образовательного или профессионального шага. Низкая близость инфраструктурного и образовательного текста может быть закономерна из-за различия функций. Поэтому решения принимаются после чтения контекста и сопоставления действий, получателей и результатов. с. 69 исходного отчёта

Внешняя проверяемость текста повышается при указании стабильного идентификатора результата, редакции и типа связи. Содержательное название показателя должно сохраняться рядом с его кодом, а изменения определения – сопровождаться историей редакций. При таком устройстве публикации автоматический анализ помогает находить несогласованности и повторяющиеся конструкции; ручной анализ устанавливает их значение. с. 70 исходного отчёта