Den gode datakonvertering
1. Formål
Datakonverteringer i STAR City skal gennemføres kontrolleret, dokumenteret, valideret og reproducerbart, således at:
Dataintegritet opretholdes
Forretningsregler respekteres
Historik og nøgler håndteres korrekt
Integrationer påvirkes kontrolleret
Konverteringen kan forklares og revideres
Siden er normativ. Krav markeret med “skal” er obligatoriske.
2. Anvendelsesområde
Denne side gælder for produktionskonverteringer ved:
Ændringer i nøglestruktur
Flytning mellem databaser eller siloer
Initial loads
Konverteringer gennemføres altid i testmiljøer før produktionsafvikling.
3. Typer af datakonvertering
3.1 Teknisk konvertering
En teknisk konvertering er en strukturel eller fysisk flytning af data, hvor:
Forretningsmæssig tilstand ikke ændres
Data ikke genbehandles forretningsmæssigt
Der ikke udsendes Webservicebeskeder (WSB)
Teknisk konvertering:
Må ikke udsende Webservicebeskeder
Må ikke utilsigtet trigge integrationer
3.2 Forretningsrekonstruerende konvertering
En forretningsrekonstruerende konvertering indebærer, at:
Forretningsregler genanvendes eller genberegnes
Forretningsmæssig tilstand genskabes
Webservicebeskeder (WSB) udsendes som led i rekonstruktionen
Forretningsrekonstruerende konverteringer:
Skal udsende Webservicebeskeder
Skal dokumenteres eksplicit i konverteringsdrejebogen
Skal varsles særskilt til berørte eksterne parter
Skal beskrive integrationspåvirkning
Manglende udsendelse af WSB er ikke tilladt.
4. Overordnede principper
Konverteringer skal først gennemføres og verificeres i testmiljøer.
Konverteringer skal kunne afvikles kontrolleret og i definerede batches/chunks.
Konverteringer skal være idempotente og kunne genafvikles uden at skabe dubletter eller inkonsistens.
Konverteringer skal designes til kontrolleret produktionsafvikling.
Køretid under 1 time er et optimeringsprincip – ikke en forudsætning.
Konverteringstype skal være eksplicit defineret.
Historiske data skal håndteres eksplicit.
Mapning mellem gamle og nye nøgler skal være fuldt dokumenteret.
Konverteringer skal valideres via ServiceRuleCheck (SRC).
5. Obligatoriske leverancer fra udviklingsteam til BI/Backend
5.1 Mapningsdokument (obligatorisk)
Der skal udarbejdes et mapningsdokument efter metoden i: https://starwiki.atlassian.net/wiki/spaces/CITY/pages/4168122820
Mapningsdokumentet skal være entydigt og udfyldt pr. sourcekolonne og som minimum indeholde:
Source tabel
Source kolonne
Target tabel
Target kolonne
Transformationsregel (SQL/regelbeskrivelse)
Join-regel (hvis relevant)
Nøglemapning
Historikhåndtering
Nullbarhed
Defaultværdi
Valideringsregel
Datakvalitetsbemærkning
Mapningsdokumentet skal være tilstrækkeligt præcist til, at konverteringsscript kan genereres deterministisk uden fortolkning.
5.2 Konverteringsdrejebog (obligatorisk)
Drejebogen skal beskrive:
Konverteringstype
Afviklingsrækkefølge
Chunk-strategi (fx pr. PersonId, tidsinterval eller nøgle-range)
Idempotensstrategi
Backout-strategi
Estimeret køretid
Integrationspåvirkning
Ved forretningsrekonstruerende konvertering skal drejebogen indeholde:
Liste over udsendte Webservicebeskeder
Udløsende kriterier pr. WSB-type
Sekvens/orden hvis relevant
Deduplikeringsnøgle
Dokumentation for særskilt varsling
5.3 Konverteringsbeslutningslog (obligatorisk)
Alle fortolkningsspørgsmål og forretningsmæssige afklaringer skal dokumenteres.
Beslutningsloggen skal sikre:
Transparens
Sporbarhed
Revisionsmulighed
5.4 Dataprofilering (obligatorisk)
Inden konvertering skal der gennemføres dataprofilering mod produktion.
Dataprofileringen skal:
Identificere outliers
Validere nullbarhed
Understøtte transformationer
Dokumenteres og vedlægges drejebogen
6. Obligatorisk validering – ServiceRuleCheck (SRC)
Konverteringer skal valideres via: https://starwiki.atlassian.net/wiki/spaces/CITY/pages/4599087172
Konverteringen må ikke godkendes før:
SRC er kørt mod målmiljø
Valideringsresultater er dokumenteret
Eventuelle afvigelser er håndteret og dokumenteret
SRC-resultat skal som minimum dokumentere:
Regel-id
Felt/entitet
Antal fejl
Eksempler på fejlende nøgler
Kørselstidspunkt
SRC er obligatorisk fra og med 2026-3 releasen.
7. Krav til scripts og kode
Konverteringsscripts skal:
Være deterministiske
Være idempotente
Kunne afvikles i batches
Logge antal behandlede rækker
Logge antal fejl
Kunne genafvikles uden manuel oprydning
Manuel datarettelse i produktion er ikke tilladt.
8. Anti-patterns
Følgende er ikke tilladt:
Konvertering uden mapningsdokument
Konvertering uden SRC-validering
Manglende stillingtagen til konverteringstype
Forretningsrekonstruerende konvertering uden varsling
Udsendelse af WSB fra teknisk konvertering
Ikke-idempotente scripts
Manuelle produktionsændringer