정형·반정형·비정형·멀티모달: AI가 놓치기 쉬운 의미의 경계
데이터 유형마다 AI가 잃기 쉬운 의미를 구분하고, 사용 목적에 맞는 수집·변환·검증 통제를 설계할 수 있다.
형식보다, 의미를 보존하라
03회차에서는 AI 사용 목적과 오류 비용에서 데이터 요구사항을 역산했다. 이제 그 캔버스에 실제 데이터를 올려보자. 정형·반정형·비정형·멀티모달은 단순한 파일 확장자 목록이 아니다. AI가 의미를 읽기 위해 구조를 얼마나 직접 사용할 수 있는지, 그리고 변환 과정에서 관계·레이아웃·시간·정렬 중 무엇을 잃기 쉬운지를 구분하는 실무 렌즈다.
정형
스키마가 명시돼도 단위·기준 시점·코드 정의가 빠지면 목적에 맞지 않는다.
반정형
키와 계층은 있지만 선택 필드·중첩·버전 차이가 해석을 갈라놓을 수 있다.
비정형
구조가 없는 것이 아니라 레이아웃·공간·시간에 구조가 숨어 있다.
멀티모달
여러 양식이 같은 대상·사건·시점을 가리키도록 정렬해야 한다.
정형 데이터(Structured Data)는 필드, 자료형, 관계와 제약이 명시된 스키마에 맞춰 기록된 데이터다. 주문 테이블의 주문시각·상품코드·수량처럼 행과 열의 위치가 의미를 설명한다. 하지만 표라고 자동으로 AI Ready Data가 되는 것은 아니다. 코드 정의가 바뀌었거나 시간대가 섞였거나 예측 시점 이후 값이 들어가면 구조는 반듯해도 목적에는 부적합하다. ISO/IEC 5259-1의 공개 설명 역시 데이터 품질을 의도한 목적에 적합한지 평가·관리하는 문제로 설명한다. [S6]
반정형 데이터(Semi-structured Data)는 키·태그·계층 같은 자기 설명 구조가 있지만 모든 레코드가 동일한 열 집합을 강제받지 않는 데이터다. JSON, XML, 이벤트 로그가 대표적이다. RFC 8259는 JSON을 객체·배열·문자열·숫자 등으로 표현하는 텍스트 기반 교환 형식으로 정의한다. 객체는 이름-값 쌍의 순서 없는 집합이고 배열은 순서 있는 값의 목록이다. [S1] W3C XML 규격은 문서가 요소·선언·주석 등 명시적 마크업으로 구성되고 논리·물리 구조가 올바르게 중첩돼야 한다고 설명한다. [S2]
분류의 핵심 질문은 '무슨 확장자인가?'가 아니라 'AI가 업무 의미를 읽으려면 어떤 구조와 맥락을 추가로 복원해야 하는가?'다.
구조가 명시돼도 의미 계약이 필요하다
정형 데이터의 강점은 검증 가능성이다. 자료형, 필수값, 참조키, 허용 범위를 자동 검사하기 쉽다. 대신 스키마 밖 맥락이 사라지기 쉽다. 매출액 열이 결제액인지 취소 반영 순매출인지, 재고 값이 어느 시점의 스냅숏인지, 상품코드가 채널마다 같은 실물을 가리키는지는 열 이름만으로 확정되지 않는다. 따라서 데이터 사전, 단위, 시간대, 기준 시점, 키의 유효기간과 변경 이력을 스키마와 함께 보존해야 한다.
반정형 데이터는 변화에 유연하지만 그 유연성이 바로 위험이 된다. 같은 event_time이 문자열·초·밀리초로 섞이거나, optional 필드가 '해당 없음'인지 '수집 실패'인지 구분되지 않거나, 중복 키 처리와 객체 순서에 구현 차이가 생길 수 있다. RFC 8259도 중복된 객체 이름과 수치 정밀도 등이 상호운용성 문제를 만들 수 있음을 경고한다. [S1] 파서가 성공했다는 사실은 업무 의미가 일치한다는 증거가 아니다.
중첩 구조를 표로 펴는 과정도 손실 지점이다. Apache Parquet는 LIST·MAP과 중첩 필드를 명시적으로 부호화하고 과거 변형을 읽기 위한 호환 규칙까지 둔다. [S3] 배열을 행으로 펼칠 때 원래 순서, 부모-자식 관계, null과 빈 목록의 차이를 버리면 다시 조립할 수 없다. 전문가의 판단 기준은 '평탄화가 가능한가'가 아니라 '목적에 필요한 관계를 역변환 가능하게 보존했는가'다.
비정형 데이터의 숨은 구조를 보존하라
비정형 데이터(Unstructured Data)는 내용이 없거나 무질서하다는 뜻이 아니다. 문서의 제목·문단·표·각주와 읽기 순서, 이미지의 위치·크기·색과 객체 관계, 음성의 발화 순서·화자·억양·침묵처럼 의미 구조가 파일의 고정 필드로 곧바로 드러나지 않는 데이터다. 텍스트만 추출하면 글자는 남아도 어느 표의 머리글인지, 경고 문구가 어떤 그림을 설명하는지, 정책 문장이 언제부터 유효한지 잃을 수 있다.
미국 의회도서관의 PDF 형식 설명은 PDF가 페이지 레이아웃 표현에는 강하지만 논리 구조는 생성 과정에서 구조 태그를 넣은 경우에만 파일 안에 표현된다고 지적한다. [S4] 따라서 PDF를 '텍스트 파일'로만 취급하면 읽기 순서·표·그림 연결이 무너질 수 있다. 문서 AI 구현에서도 페이지·줄·단어뿐 아니라 양식 키-값, 표·셀, 선택 요소와 레이아웃을 별도 객체로 다루는 이유가 여기에 있다. [S5]
비정형 데이터의 첫 품질 지표는 글자 수가 아니라 목적에 필요한 의미 구조가 추출 뒤에도 연결돼 있는지다.
멀티모달은 서로 대응하는 신호의 계약이다
멀티모달 데이터(Multimodal Data)는 텍스트·이미지·음성·영상·센서처럼 서로 다른 양식(modality)을 함께 처리하고 관계를 학습하도록 연결한 데이터다. 고전적 서베이는 멀티모달 학습의 과제를 표현, 변환, 정렬(alignment), 융합과 공동학습으로 구분한다. [S7] 후속 서베이도 이질성, 연결과 상호작용을 핵심 원리로 보고 정렬·추론·정량화 문제를 강조한다. [S8] 폴더에 사진과 설명문을 같이 넣었다고 자동으로 멀티모달 학습 데이터가 되는 것은 아니다.
정렬은 서로 다른 신호가 같은 대상·시간·공간·사건을 가리킨다는 연결이다. 상품 이미지와 SKU, 반품 사진과 고객 설명, 통화 음성과 전사문, 영상 프레임과 센서 시각을 맞춰야 한다. 연결키가 틀리면 모델은 실제 관계가 아닌 우연한 조합을 학습한다. 촬영 뒤 작성된 설명을 예측 시점 이전 정보처럼 붙이거나, 같은 고객의 여러 샘플을 학습·평가에 나누면 데이터 누수도 생길 수 있다.
가상의 다온커머스에서 주문·POS·재고는 정형, 협력사 상품 속성 JSON은 반정형, 정책 PDF와 상품 이미지·상담 음성은 비정형이다. 반품 이미지 분류를 확장한다면 사진만 모으지 않는다. 사진-주문-상품-SKU-촬영시각-반품사유-판정 결과를 하나의 사건 ID로 묶고, 누락된 이미지·설명과 재촬영 여부를 표시해야 한다. 수치는 교육용 가정이며 실제 성능을 뜻하지 않는다.
멀티모달 품질의 핵심은 각 파일의 선명도만이 아니라 짝(pair)이 맞는지, 시점이 맞는지, 한 양식이 빠졌을 때 어떻게 처리하는지다.
데이터 유형별 손실 위험표
아래 표는 저장 형식을 고르는 표가 아니라 변환 전후에 무엇을 검증할지 정하는 손실 위험표다. 한 자산은 여러 유형을 함께 가질 수 있다. 예를 들어 JSON 안의 base64 이미지는 반정형 컨테이너와 비정형 내용이 결합된 것이고, PDF 표는 페이지 레이아웃과 행·열 구조를 동시에 가진다. 목적에 필요한 의미 단위로 분해하되 원본과 연결을 유지한다.
| 유형 | 명시된 구조 | 잃기 쉬운 의미 | 최소 통제 |
|---|---|---|---|
| 정형 | 테이블·명시적 스키마 | 단위·기준시점·코드 의미 | 스키마+업무 사전·시점 검증 |
| 반정형 | 키·태그·중첩 계층 | 선택 필드·배열 순서·부모 관계 | 버전·중복 키·null 의미·역변환 |
| 비정형 | 레이아웃·공간·시간에 암묵적 | 읽기 순서·표·그림·화자 | 원본+좌표·페이지·신뢰도·파서 버전 |
| 멀티모달 | 서로 다른 양식의 연결 | 대상·시간·공간 정렬 | 사건 ID·정렬키·누락 양식·누수 검사 |
수집 계약에는 최소한 원본 식별자와 해시, 스키마 또는 구조 버전, 생성·관측·수집 시각, 단위와 코드 체계, 부모-자식·페이지·좌표·시간 구간, 모달 정렬키, 누락 이유, 파서·변환 버전, 권한·라이선스와 품질 상태가 들어가야 한다. 모든 항목을 매번 강제하는 것이 아니라 03회차 Use Case-to-Data 캔버스에서 목적에 필요한 것만 선택한다.
- 목적AI 결정에 필요한 최소 의미 단위와 허용 손실을 적었는가?
- 원본변환 전 원본과 해시, 생성·수집 시점을 보존하는가?
- 구조스키마·키·태그·페이지·좌표·시간 구간을 추적하는가?
- 관계부모-자식·배열 순서·표 머리글·그림 설명 연결이 남는가?
- 정렬여러 양식이 같은 대상·사건·시점을 가리키는지 검증하는가?
- 누락빈 값과 해당 없음, 수집 실패, 누락된 양식을 구분하는가?
- 변환파서·OCR·변환 버전과 신뢰도, 사람 수정 이력을 기록하는가?
- 권한형식이 바뀌어도 접근권한·라이선스·보존 조건이 따라가는가?
승인 규칙: 형식 변환 뒤에도 대상·시간·순서·레이아웃·권한 중 목적에 필요한 연결을 되짚을 수 있어야 한다.
마무리와 다음 회차
정형·반정형·비정형·멀티모달의 차이는 어느 형식이 더 우수한가가 아니라 의미가 어디에 숨어 있고 무엇이 쉽게 끊기는가에 있다. AI Ready Data는 원본을 보존하면서 목적에 필요한 구조·맥락·시간·레이아웃·정렬을 명시하고, 변환 손실을 검증할 수 있어야 한다. 다음 05회차에서는 이 데이터들이 생성·수집·가공·사용·공유·보관·폐기되는 생애주기에서 신뢰와 사용권이 어디서 약해지는지 살펴본다.
다음 05회차: 수집부터 폐기까지 AI 데이터 생애주기 · 2026년 8월 19일
출처 및 읽을거리
확인 기준일: 2026-08-17 KST
- [S1] RFC Editor / IETF - RFC 8259 - The JavaScript Object Notation (JSON) Data Interchange Format
Locator: Abstract; Sections 1, 2, 4-6; interoperability guidance · 확인일: 2026-08-17 · 제한: JSON의 문법과 상호운용성 표준이다. JSON을 곧바로 특정 조직의 반정형 데이터 운영 기준으로 만들지는 않는다. - [S2] W3C - Extensible Markup Language (XML) 1.0 (Fifth Edition)
Locator: Sections 1.1 and 2; logical and physical structure; well-formed documents · 확인일: 2026-08-17 · 제한: XML 문법의 규범 문서다. 태그 이름의 업무 의미나 조직별 스키마 품질까지 보장하지 않는다. - [S3] Apache Parquet - Parquet Logical Types and Nested Encoding
Locator: Nested Types; LIST and MAP annotations; backward-compatibility rules · 확인일: 2026-08-17 · 제한: Parquet 파일 형식의 기술 사양이다. 실제 분석 목적에 맞는 필드 정의와 품질은 별도 관리가 필요하다. - [S4] Library of Congress - PDF (Portable Document Format) Family
Locator: Quality and functionality factors; integrity of document structure and layout · 확인일: 2026-08-17 · 제한: 보존·형식 관점의 설명이다. 개별 PDF의 태깅·읽기 순서·텍스트 추출 가능성은 파일별 검사가 필요하다. - [S5] Amazon Web Services - Amazon Textract - Text Detection and Document Analysis Response Objects
Locator: Block objects; pages, lines, words, forms, tables, selection elements, layout · 확인일: 2026-08-17 · 제한: 특정 제품의 공식 문서다. 문서 구조를 명시적으로 다루는 구현 예시로만 사용하며 제품 성능을 일반화하지 않는다. - [S6] ISO - ISO/IEC 5259-1:2024 - Data quality for analytics and machine learning
Locator: Overview; terminology and examples; fit for intended purpose; published status · 확인일: 2026-08-17 · 제한: 공개 소개 페이지를 확인했다. 유료 표준 전문의 세부 요구사항은 인용하거나 재현하지 않았다. - [S7] arXiv / authors - Multimodal Machine Learning: A Survey and Taxonomy
Locator: Abstract; Sections 1-2; representation, translation, alignment, fusion, co-learning · 확인일: 2026-08-17 · 제한: 2017년의 원 연구형 서베이다. 최신 모델 제품의 성능 비교가 아니라 멀티모달 문제 분류에 사용했다. - [S8] arXiv / authors - Foundations and Trends in Multimodal Machine Learning
Locator: Abstract; principles of heterogeneity, connections and interactions; core challenges · 확인일: 2026-08-17 · 제한: 광범위한 서베이 논문이다. 특정 모델이나 데이터셋에 대한 배포 적합성을 직접 증명하지 않는다.
'스페셜 브리핑 > AI-Ready Data' 카테고리의 다른 글
| AI 데이터 준비도 진단: 사람·프로세스·기술·거버넌스 4축 체크리스트 (0) | 2026.08.21 |
|---|---|
| AI 데이터 생애주기: 수집부터 폐기까지 신뢰와 사용권을 지키는 법 (0) | 2026.08.19 |
| 데이터보다 AI 사용 목적을 먼저: 오류 비용에서 데이터 요구사항을 역산하는 법 (0) | 2026.08.14 |
| 일반 데이터·BI 데이터·AI 데이터의 차이: 같은 원천, 다른 준비 기준 (0) | 2026.08.12 |
| AI Ready Data란 무엇인가: 깨끗함을 넘어 목적·근거·운영까지 (0) | 2026.08.10 |