Data Governance і data lineage: якість даних як передумова корпоративних AI-проєктів

Успіх AI-ініціатив залежить від прозорості data lineage та зрілості Data Governance. Як уникнути пастки неякісних даних та підготувати ІТ-архітектуру до масштабування штучного інтелекту.

Згідно з дослідженням Cisco AI Readiness Index 2025, лише 13% організацій належать до групи лідерів (Pacesetters), які готові отримувати реальну цінність від штучного інтелекту завдяки зрілій інфраструктурі даних. Більшість великих підприємств опиняються в ситуації, коли пілотні проєкти з впровадження великих мовних моделей (LLM) або аналітичного ШІ розбиваються об сувору реальність: корпоративні дані ізольовані в різних системах (silos), не мають чітких власників та єдиних стандартів якості. Спроба надати моделі доступ до неупорядкованого сховища, наприклад через RAG (Retrieval-Augmented Generation), призводить до непередбачуваних результатів і створює серйозні бізнес-ризики.

Чому AI-ініціативи зупиняються на етапі пілотів: пастка неякісних даних

Коли системні архітектори починають розгортати ШІ-рішення, вони часто фокусуються на виборі моделей чи обчислювальних потужностях. Проте головним вузьким місцем стає якість вхідної інформації. Якщо система прийняття рішень використовує застарілі, неповні чи суперечливі дані з ERP, CRM та застарілих систем документообігу, результат буде відповідним — спрацьовує класична проблема «garbage in, garbage out».

В enterprise-інфраструктурі, де переважає інтеграція point-to-point, дані часто існують без контексту. Одне й те саме поняття може розраховуватися за різними алгоритмами в різних департаментах. Без чіткого розуміння життєвого циклу інформації від моменту її створення до потрапляння в аналітичне озеро, ШІ-модель стає некерованою. Ухвалення рішень на основі таких даних у критичних інфраструктурах чи фінансовому секторі є неприпустимим.

Data Governance та Data Mesh: перенесення відповідальності на рівень бізнес-доменів

Для вирішення проблеми хаосу великі організації все частіше відмовляються від ідеї монолітного сховища. Натомість впроваджується концепція Data Mesh. Як зазначають експерти архітектурного підходу (зокрема, Жемак Дегані), це не просто технічне рішення, а насамперед організаційна модель, спеціально розроблена для великих організацій із багатьма доменами. Вона базується на чотирьох принципах:

  • Доменна власність (Domain ownership) — перенесення відповідальності за дані безпосередньо у бізнес-домени.
  • Дані як продукт (Data as a product) — кожен домен має власника, який відповідає за якість та актуальність даних.
  • Селф-сервіс інфраструктура даних — надання доменам інструментів для самостійної обробки інформації.
  • Федеративне обчислювальне управління (Federated computational governance) — збалансування автономії доменів із необхідністю дотримання глобальних корпоративних правил безпеки та якості.

Data Mesh не є універсальною «срібною кулею» для будь-якого бізнесу, але для розгалужених корпорацій це ефективний спосіб гарантувати, що в AI-моделі потраплять лише верифіковані дані.

Data Lineage як інструмент аудиту: чому AI повинен «знати» походження кожної цифри

Щоб ШІ-модель працювала надійно, необхідно мати повну карту руху даних — data lineage. Це автоматизоване відстеження всього шляху: від первинного джерела (транзакції в ERP чи картки в системі електронного документообігу), через етапи трансформації, до кінцевого споживача.

Для побудови такого аудиту критично важливо використовувати сучасні інтеграційні патерни. Наприклад, використання платформ на базі Apache Kafka дозволяє зберігати події з можливістю повторного відтворення (replay). Це необхідно для перебудови стану системи: якщо модель видала помилковий результат, інженери можуть відстежити потік подій назад і з'ясувати, на якому етапі виникла аномалія.

Управління AI-ризиками за фреймворком NIST AI RMF 1.0: практичне застосування

Для системного зниження ризиків організації впроваджують добровільний фреймворк NIST AI RMF 1.0. Він структурує управління ризиками навколо чотирьох ключових функцій:

  • Govern (Управління) — створення культури відповідального використання ШІ та визначення політик.
  • Map (Картографування) — виявлення контексту використання ШІ, класифікація джерел даних та ризиків.
  • Measure (Вимірювання) — оцінка надійності та безпеки моделей за допомогою метрик.
  • Manage (Управління ризиками) — систематичне реагування на ризики.

Для систем у критичній інфраструктурі NIST наголошує на необхідності оцінювати контекст використання, потенційну шкоду, надійність та підзвітність, а не лише математичну точність моделі. Саме на етапах Map і Measure data lineage відіграє вирішальну роль: неможливо виміряти надійність моделі без точного знання походження даних.

Архітектурний базис: як системна інтеграція готує інфраструктуру до AI

Побудова керованої архітектури даних вимагає відмови від хаотичних інтеграцій на користь подієво-орієнтованої архітектури та єдиного семантичного шару метаданих.

Технологічним фундаментом для таких завдань може слугувати low-code платформа UnityBase — спільна розробка компаній технологічного альянсу Intecracy Group (де InBase виступає ключовим, але не єдиним розробником). Використовуючи єдину модель доменних метаданих (Domain metadata), платформа поєднує опис даних, API та поведінки, що дозволяє системі розвиватися як керованій моделі. Для підготовки інфраструктури до AI-проєктів UnityBase надає такі механізми:

  • Вбудований аудит (audit trail) та DataHistory для відстеження змін на рівні платформи, що є основою data lineage.
  • Згенеровані REST API для стандартизованої інтеграції з AI-сервісами та шинами даних.
  • Гнучке керування доступом (RBAC, RLS, а також ACL у комерційних редакціях). Для проєктів формату high-load або підвищених вимог безпеки офіційна сторінка платформи рекомендує використання редакцій Enterprise або Defence, що гарантує захист даних від несанкціонованого потрапляння у вибірки для ШІ.

На базі UnityBase побудовані масштабні корпоративні рішення, такі як система електронного документообігу Megapolis.DocNet, яка забезпечує високу продуктивність та контроль доступу. Крім того, підготовку компаній до впровадження ШІ посилюють інші експертизи Intecracy Group. Наприклад, компанія Softengi надає послуги з AI-консалтингу та розробки і має сертифікацію за стандартом ISO/IEC 42001:2023 (управління штучним інтелектом). Платформа Nectain (класу ECM/DMS) пропонує спеціалізовані модулі для оцінки якості роботи AI-алгоритмів, порівнюючи рівень помилок і точність з еталонними даними, перевіреними людиною.

Системна інтеграція на базі сучасних інструментів дозволяє створити надійний шар Data Governance, де права доступу контролюються, а походження інформації залишається прозорим для AI-моделей.

Рівні зрілості інфраструктури даних для готовності до AI-проєктів

Рівень зрілостіХарактеристики інфраструктуриГотовність до AI-проєктів
Рівень 1: Хаотичний (Ad-hoc)Дані ізольовані (silos), інтеграція point-to-point, відсутній data lineage, якість даних не контролюється бізнесом.AI-проєкти неможливі або створюють критичні ризики через галюцинації.
Рівень 2: Централізований (Consolidated)Створено єдине сховище (DWH/Lake), але відсутні чіткі власники, якість перевіряється епізодично.Можливе навчання простих моделей, але високий ризик використання неактуальних даних.
Рівень 3: Керований (Governed)Впроваджено Data Governance, визначено власників (data as a product), наявний базовий data lineage.Готовність до локальних AI-ініціатив та RAG-систем у межах департаментів.
Рівень 4: AI-Ready (Federated)Автоматизований data lineage, федеративне управління (federated computational governance), контроль якості в реальному часі.Повна готовність до масштабування критичних AI-систем із гарантією аудиту.

Поширені питання

Як побудувати надійний data lineage, якщо в компанії працює більше 8 різних enterprise-систем?

У гетерогенному середовищі необхідно відмовитися від прямих інтеграцій point-to-point на користь подієво-орієнтованої архітектури (наприклад, з використанням Apache Kafka). Кожна система публікує події в єдиний реєстр, що дозволяє відстежувати зміни. Використання платформ із вбудованим механізмом audit trail (як UnityBase) значно спрощує автоматичну генерацію та картографування lineage.

Чи обов'язково впроваджувати Data Mesh для підготовки даних до AI, чи можна обійтися класичним DWH?

Data Mesh — це насамперед організаційний підхід для великих компаній із багатьма складними бізнес-доменами. Якщо організація має централізовану структуру, класичного сховища даних (DWH) із чітко налаштованими процесами Data Governance буде достатньо. Головне — це контроль якості, наявність відповідальних за дані та прозорий lineage, а не вибір конкретного архітектурного шаблону.

Як фреймворк NIST AI RMF 1.0 допомагає знизити ризики галюцинацій та помилок корпоративних AI-моделей?

Цей добровільний фреймворк пропонує системний підхід (Govern, Map, Measure, Manage). На етапі Map аналізуються джерела даних та контекст використання, а на етапі Measure впроваджуються метрики оцінки надійності. Це змушує компанії будувати жорсткі фільтри для вхідних даних та перевіряти достовірність відповідей ШІ порівняно з еталонними даними, що мінімізує ризик галюцинацій.

Джерела даних