ВИТРИНА ДАННЫХ

Закрытый сервис

Вход в систему

При первом входе замените выданный администратором одноразовый пароль на свой.

НГУЭУ · Витрина данных

Операции с файлами

01

Подготовить
выгрузку

Дата применяется к срезу статусов «отчислен» и «зак. с дипломом» в SQL-запросе.

CSV до 20 МБ
Как работает раздел Пошагово: чтение CSV, выгрузка из Тандем, проверки, поиск UID и создание итогового ZIP.

Как запустить

Раздел получает данные студентов из Тандем, проверяет их и готовит файлы для загрузки в витрину. Загружаемый вами CSV служит справочником уже выданных идентификаторов студбилетов.

  1. Выберите «Дату среза статусов». Она передаётся в запрос к Тандем и влияет на отбор записей по статусам. Проверка сроков обучения и названия итоговых файлов используют текущую дату запуска по новосибирскому времени.
  2. Загрузите CSV до 20 МБ с обязательными заголовками в первой строке: «UID студенческого билета» и «Номер студ. билета». Колонка «СНИЛС» необязательна и не используется для поиска UID. Имя файла может быть любым. Поддерживаются UTF-8, UTF-8 с BOM и Windows-1251; разделители — запятая, точка с запятой или табуляция.
  3. Нажмите «Выполнить» и дождитесь сообщения о готовности. Ход обработки появится в журнале. Если сервис занят другим заданием, повторите запуск после его завершения.
  4. Просмотрите статистику и первые 100 строк каждого результата. Нажмите «Сохранить ZIP», чтобы скачать все сформированные файлы.

Что происходит с файлами — шаг за шагом

  1. Приём и чтение CSV.

    Система сохраняет копию загруженного файла для задания, проверяет расширение, размер и наличие содержимого, определяет кодировку и разделитель. Затем проверяет два обязательных заголовка; внешние и повторяющиеся пробелы в заголовках не мешают распознаванию. Если файл нельзя прочитать или заголовка нет, обработка останавливается с сообщением.

  2. Подготовка справочника UID.

    Из CSV строится только соответствие «номер студбилета → UID». Внешние пробелы номера убираются; номер из 1–6 цифр дополняется слева нулями до шести: «123» → «000123». Строки без UID, без номера или без необходимых полей пропускаются. Если одному нормализованному номеру соответствуют разные UID, такой номер исключается из справочника. Повтор одного и того же соответствия допустим. СНИЛС и другие дополнительные колонки CSV игнорируются.

  3. Получение исходной книги из Тандем.

    С выбранной датой среза выполняется запрос «Студенческие билеты» из раздела «Администрирование → Исходные SQL-запросы». Его версия фиксируется при создании задания. Табличный результат записывается в промежуточный файл source.xlsx на лист «Шаблон»: первая строка — заголовки, далее — полученные записи. Если запрос не вернул строк, работа заканчивается сообщением «Нет данных», архив не создаётся.

  4. Запись значений в промежуточную книгу.

    Пустые значения становятся пустыми ячейками, даты сохраняются как даты Excel, текст — как текст. Для текстов, начинающихся с «=», «+», «-» или «@», добавляется начальный апостроф, чтобы Excel не исполнил их как формулы. Текст длиннее допустимого размера ячейки сокращается с пометкой «[обрезано]».

  5. Приведение столбцов к главному шаблону.

    Система открывает установленный на сервере главный шаблон и сопоставляет его заголовки с заголовками выгрузки, включая предусмотренные альтернативные названия. Результирующие столбцы идут в порядке главного шаблона. Лишние столбцы выгрузки не переносятся; если нужного столбца в выгрузке нет, его значения остаются пустыми и далее проходят проверки. Полностью пустые исходные строки не считаются записями.

  6. Проверка каждой строки.

    Последовательно проверяются поля по правилам из таблицы ниже. Пустыми считаются и отсутствующие значения, и строки только из пробелов. Система собирает все найденные ошибки строки, а не только первую. Проверки выявляют проблемы, но автоматически не исправляют паспортные реквизиты, даты или другие исходные сведения.

  7. Отделение строк с ошибками.

    Строка хотя бы с одной ошибкой попадает только в категорию «Ошибки». Для неё не выполняется поиск UID, и она не попадает в файлы корректных записей. В итоговом файле сохраняются её значения после приведения к шаблону, проблемные ячейки получают красную заливку, последней добавляется колонка «Описание ошибок» с названиями полей и причинами.

  8. Поиск UID для корректных строк.

    UID ищется только по нормализованному номеру студбилета из выгрузки и колонке «Номер студ. билета» CSV. Если номер отсутствует в справочнике или ему соответствуют разные UID, UID считается не найденным. Совпадение СНИЛС не используется ни как основной, ни как резервный способ поиска. Корректная строка без найденного UID попадает в «Новые» или «Новые (отчисленные)» в зависимости от сведений об отчислении. Нормализация ключа не переписывает номер билета в исходных данных.

  9. Распределение корректных строк.

    Проверяются три поля: дата приказа об отчислении или завершении обучения, номер приказа об отчислении и причина отчисления. Без найденного UID запись попадает в «Новые», если все три поля пусты, и в «Новые (отчисленные)», если все три заполнены. С найденным UID все три заполненных поля означают категорию «Отчисленные», а все три пустых — «Обычные». Частично заполненная тройка уже отнесена к ошибкам на этапе проверки независимо от наличия UID.

  10. Создание книг по категориям.

    Для каждой непустой категории создаются XLSX-книги с одним листом «Шаблон». В «Обычных» и «Отчисленных» найденный UID записывается в колонку «Идентификатор студбилета». В «Новых» и «Новых (отчисленных)» эта колонка целиком удаляется: система не присваивает новый UID. Порядок строк внутри категории соответствует порядку выгрузки. Даты Excel получают формат ДД.ММ.ГГГГ, текстовые коды и номера сохраняются как текст с ведущими нулями. Добавляются заголовки, фильтр и закрепление первой строки.

  11. Разделение файлов и контроль количества строк.

    «Новые», «Новые (отчисленные)» и «Отчисленные» делятся отдельно по каждой категории на части максимум по 3 000 записей, без учёта заголовка. «Обычные» и «Ошибки» сохраняются по одному файлу без такого деления. Пустые категории не создают файлов. Система сверяет баланс: число проверенных строк должно равняться сумме записей в пяти категориях: «Новые», «Новые (отчисленные)», «Отчисленные», «Обычные» и «Ошибки».

  12. Сборка ZIP и показ результата.

    В названиях всех результатов пробелы заменяются на подчёркивания: например, ДД.ММ.ГГГГ_Новые_(отчисленные)_часть_1.xlsx. Это правило действует и для имён внутри ZIP. Книги категорий упаковываются в архив ДД.ММ.ГГГГ_Студенческие_билеты.zip. Промежуточная выгрузка и UID.csv в архив не включаются. На экране появляются пять счётчиков категорий, количество срабатываний каждой проверки и предпросмотр первых 100 строк каждого файла. Одна строка может иметь несколько ошибок, поэтому число срабатываний не равно числу ошибочных строк.

Какие проверки выполняются

ПолеУсловие прохождения проверки
Дата рожденияЗаполнена корректной датой Excel либо текстом ДД.ММ.ГГГГ, обозначающим существующую календарную дату.
Место рожденияПоле заполнено. Пустая ячейка или строка только из пробелов — ошибка; содержание заполненного поля дополнительно не проверяется.
ГражданствоЗначение состоит только из цифр. Пустое поле, буквы, знаки и внутренние пробелы — ошибка. Внешние пробелы игнорируются; целое число Excel (например, 643) допустимо. Длина кода и его наличие в справочнике ОКСМ не проверяются.
Серия и номер документа РФСерия состоит ровно из 4 цифр, номер — из 6. Если указан тип иностранного документа, пустые российские реквизиты допустимы; заполненные всё равно проверяются.
Дата выдачи документа РФКорректная дата Excel или текст ДД.ММ.ГГГГ. Дата не совпадает с датой рождения, не раньше даты рождения + 14 календарных лет и не позже даты запуска обработки по Новосибирску. Обе границы допустимы; дата среза статусов на проверку не влияет. Для родившихся 29 февраля нижняя граница — 28 февраля через 14 лет. Пустое поле допустимо, если указан тип иностранного документа; если дата РФ заполнена, все перечисленные проверки выполняются и в этом случае.
СНИЛСЗаполнен, кроме случаев с указанным типом иностранного документа. Контрольная сумма и количество цифр СНИЛС на этом этапе не проверяются. Это проверка данных студента, а не ключ поиска UID.
Иностранный документЕсли указан его тип, должны быть заполнены номер (реквизиты) и дата выдачи. Для этой даты проверяется наличие значения.
Код уровня образования и номер студбилетаКод уровня — ровно 2 цифры, номер билета — ровно 6. Например, «03» и «000123». Дополнение номера нулями при поиске UID не заменяет эту проверку исходного номера.
Выдача студбилета и зачислениеЗаполнены дата выдачи билета, дата зачисления, дата и номер приказа о зачислении. Здесь проверяется наличие значений.
Планируемая дата окончанияЗаполнена корректной датой Excel или текстом ДД.ММ.ГГГГ. Если дата приказа об отчислении или завершении обучения пуста, плановая дата не может быть раньше текущей даты проверки.
Комплектность сведений об отчисленииДата приказа об отчислении или завершении обучения, номер приказа и причина отчисления должны быть либо заполнены все вместе, либо все пусты. При частичном заполнении ошибкой отмечаются недостающие поля.

Например, корректная запись без UID и без сведений об отчислении попадёт в «Новые», а без UID с тремя заполненными полями отчисления — в «Новые (отчисленные)». В обеих категориях колонка идентификатора удаляется. Корректная запись с UID и тремя заполненными полями отчисления попадёт в «Отчисленные». Запись с неполным номером паспорта попадёт в «Ошибки» независимо от наличия UID. Чтобы исправить ошибочные данные в следующей выгрузке, внесите исправления в источник Тандем и запустите обработку заново.

Сменить пароль

От 15 до 128 символов. Можно использовать длинную запоминающуюся фразу.

Новый пользователь

Администратор управляет всей системой, пользователями и настройками. Пользователь работает только с основными вкладками.

Для новых администраторов доступ включён по умолчанию. Для каждого пользователя его можно включить или отключить отдельно.

Одноразовый пароль

Пароль показывается только сейчас. После первого успешного входа он больше не действует: пользователь должен задать свой пароль в течение 30 минут. Если вход прервётся, администратор может выдать новый одноразовый пароль.