麥肯錫：生成式人工智能在公共管理中的應(yīng)用-全面利用的七大成功因素

Mcsey

&company

GenerativekünstlicheIntelligenzinder?ffentlichenVerwaltung–siebenErfolgsfaktorenfüreine

fl?chendeckendeNutzung

1

GenerativekünstlicheIntelligenzinder?ffentlichenVerwaltung–siebenErfolgsfaktorenfüreine

fl?chendeckendeNutzung

VonDeutschlandsVerwaltungwirdvielerwartet:Schlanksollsiesein,zuverl?ssig,schnellundbürgernah.DochdieDigitalisierungderVerwaltungalswesentlicheVoraussetzungfürdieseAmbitionschreitetnur

langsamvoran.

GenerativekünstlicheIntelligenz(GenAI)kanndabeihelfen,Effizienzlückenzuschlie?en,denProzess

derDigitalisierungzubeschleunigenunddieVerwaltungeffektiverzumachen.MitGenAIlassensich

unstrukturierteDatenwieText,SpracheundBildernutzbarmachenundProzesseautomatisieren,beidenendasvormalskaumm?glichwar.GenAIhatdasPotenzial,Besch?ftigteinderVerwaltungmerklichzuentlastenundsomehrZeitfürwertstiftendeT?tigkeitenwiedieKundenberatungzuschaffen.EineaktuelleMcKinsey-Analysezeigt,dassdurchdenEinsatzvonGenAIundanderenTechnologienT?tigkeitenautomatisiertwerdenk?nnen,diederzeitrund60bis70%desZeitaufwandsvonBesch?ftigtenausmachen–beispielsweisedurchdieSyntheseundErstellungvonInhalten,intelligenteUnterstützungbeiProgrammierungst?tigkeitenundinderBürgerinteraktion.1,2

WeltweitarbeitenAdministrationendaran,diePotenzialevonGenAInutzbarzumachen,indemsienationaleStrategienentwickelnunddenEinsatzgezieltf?rdern.SoauchinEuropa:D?nemarkf?rdertmitseiner

DigitalstrategiedenAufbaueinesprivat-?ffentlichenExzellenz-ClustersfürkünstlicheIntelligenz(KI)3und

Gro?britannienf?rdertdieprivateund?ffentlicheForschungsowiedieEntwicklungvonKI,dieerforderliche

digitaleInfrastrukturunddieAusbildungentsprechenderFachkr?fte.4DieitalienischeKI-PolitikhatdasZiel,KIindasRegierungs-undVerwaltungshandelnzuintegrieren,ethischeFragenzukl?renunddienotwendigenF?higkeitenbeidenBesch?ftigtenaufzubauen.5

DieBundesregierunghatden?AktionsplanKI“6vorgelegt.DarinsindInvestitioneninH?hevon1,5Mrd.EURbis2025geplant,umdenKI-StandortDeutschlandauszubauenunddasmitKIverbundenePotenzialfür

Besch?ftigteundUnternehmeninDeutschlandzuerschlie?en.7Bislangnutztdie?ffentlicheVerwaltung

GenAI-L?sungennahezuausschlie?lichinFormvonPilotprojekten,alsProofofConcepts(PoC)fürbegrenzteAnwendungszwecke.DieseLeuchtturmprojektesollenAkzeptanzschaffenunddieWirksamkeitder

Anwendungenbeweisen.PoCslassensichrelativaufwandsarmundzügigentwickelnunddaesBedarfgibt,arbeitenzurzeitetlicheEinrichtungenan?hnlichgelagertenAnwendungsf?llenwiebeispielweiseder

SynthesevonumfangreichenBerichten.DaswahrePotenzialvongenerativerKIliegtjedochinderskalierten,fl?chendeckendenNutzung,insbesonderewennfunktionierendeModelleüberdieGrenzeneinzelner

Beh?rdenhinweggenutztwerden.VorallemdiefolgendensiebenFaktorenerm?glichendieschnelleSkalierungundfl?chendeckendeNutzung(sieheAbbildung).

1McKinsey(2023),TheeconomicpotentialofgenerativeAI:Thenextproductivityfrontier(Link)

2WirbeziehenunsindieserPublikationaufInformationen,diezumZeitpunktderErstellungunterdenangegebenenLinksverfügbarwaren.

3AgencyforDigitalGovernment(2022),NationalStrategyforDigitalisation(Link)

4OfficeforArtificialIntelligence(2021),NationalAIStrategy(Link)

5Agenziaperl’ItaliaDigitale(2018),ArtificialIntelligenceattheserviceofthecitizen(Link)

6DiesumfasstauchGenAI-L?sungenalsUntergruppevonKI.

7DeutscheBundesregierung(2023),KünstlicheIntelligenzalsSchlüsseltechnologiest?rkernutzen(Link)

2

Voraussetzungenfürdiefl?chendeckendeNutzungvonGenAIinderdeutschenVerwaltung

XErfolgsfaktorenfürdieVorbereitungderSkalierungXErfolgsfaktorenfürdietechnischeSkalierung

XErfolgsfaktorenfürdiebeschleunigteSkalierung

Risikomanagementetablieren

Austauschvon

GenAI-L?sungenerm?glichen

3

TechnischeInfrastrukturskalieren

Transparenz

schaffenund

Akzeptanzf?rdern

F?higkeitenausbauenundTalentegewinnen

ZentraleBereitstellungeinrichten

Rahmenkonzeptentwickeln

7

6

4

2

5

1

ErfolgsfaktorenfürdieVorbereitungderSkalierung

1.SchaffungdesnotwendigenRahmensfürdiebreiteNutzungvonGenAI

DamitGenAI-Anwendungsf?lleinDeutschlandskaliertwerdenk?nnen,bedarfeseinesverl?sslichen(regulatorischen)Rahmens,sowohlfürAnbieteralsauchfür

NutzendevonGenAI-L?sungen.MitdemVerordnungsvorschlagzurFestlegung

harmonisierterVorschriftenfürKIhatdieEU-Kommissionaufeurop?ischerEbenebereitsersteEckpfeilergeschaffen.8Nungiltes,diesenationalauszugestaltenund

zukonkretisieren.DiesbetrifftzumBeispielDatenschutzanforderungenoderden

notwendigenrechtlichenRahmenoffizieller,KI-unterstützterKommunikationder

Verwaltung.EinentsprechenderRahmensollteinsbesonderedieNutzungund

dasTeilenvonDaten(zumBeispielmitDrittanbietern)sowiedieQualit?tssicherungvonKI-Modellen

undihrenErgebnissen(zumBeispielVerifizierungsverfahren)regeln.Zudemben?tigendieBesch?ftigten

indenVerwaltungeneineverl?sslicheOrientierungzurAnwendungvonGenAI,etwainFormvonklaren

Verfahrensregeln.L?nderwiedieUSA,ChinaundAustralienverfügenbereitsüberentsprechendeRegelwerke.9

2.F?rderungvonTransparenzundgesellschaftlicherAkzeptanzvonGenAI

FüreinenachhaltigeEtablierungvonGenAI-L?sungeninder?ffentlichenVerwaltungistsowohlinderVerwaltungselbstalsauchinderGesellschaftdieAkzeptanzentsprechenderL?sungenzuf?rdern.10

GEN

DieserfordertgeeigneteKommunikationsma?nahmen,dieüberdieEinsatzm?glichkeitenundVorteile,aberauchüberGrenzenundRisikenvonGenAIinformierenundTransparenzschaffen,inwelcher

FormGenAIeingesetztwerdendarfundwird.Beh?rdeninternkannmanberechtigtenBedenkenmitedukativenundtransparenzschaffendenMa?nahmenbegegnen,zumBeispielhinsichtlichderQualit?tundPassgenauigkeitvonangewandtenGenAI-L?sungen.Zudemisteinumfassender

F?higkeitsaufbauvonn?ten,umSicherheitinderAnwendungvonGenAI-L?sungenzuf?rdern,

zumBeispieldurchSchulungenzumPrompting,demInteragierenmitSprachmodellendurchkurze

SprachbefehleundFragen.Auchgiltesm?glicheSorgenvonBesch?ftigtenaufzugreifen,etwahinsichtlichderAuswirkungenaufdeneigenenT?tigkeitsbereich.DieEinbeziehungvonetabliertenVorreitereinheiten,wiebeispielsweisedenDatenlaborenderBundesministerien,undeinbeh?rdenübergreifenderAustauschzuKIk?nnenalsVehikelzurVertrauensbildungdienen.Bürger:innensolltentransparentüberdieZiele,diedieVerwaltungmitderNutzungvongenerativerKIverfolgt,positiveAuswirkungen,aberauchGrenzender

8Europ?ischeKommission(2021),VerordnungdesEurop?ischenParlamentsunddesRateszurFestlegungharmonisierterVorschriftenfürkünstlicheIntelligenz(Link)

9McKinsey(2023),UnlockingthepotentialofgenerativeAI:Threekeyquestionsforgovernmentagencies(Link)

10Kompetenzzentrum?ffentlicheITundFraunhofer-InstitutfürOffeneKommunikationssystemeFOKUS(2020),KIimBeh?rdeneinsatz:ErfahrungenundEmpfehlungen(Link)

3

Technologieinformiertwerden.Esgilt,TransparenzhinsichtlichDatenschutzund-sicherheitzuschaffen,damitGenAIineinemsicherenRahmenalsverl?sslicheTechnologiewahrgenommenwird.

ErfolgsfaktorenfürdietechnischeSkalierung

3.F?rderungeinerzentralenBereitstellungvonGenAI-L?sungen

EinKernelementzurF?rderungeinerfl?chendeckenderenNutzungvonGenAIkanndieBündelungund

zentraleBereitstellungvonfunktionalenGenAI-L?sungenfürVerwaltungsorganisationensein.EineigenesHostingvonGenAI-ModellenstelltvieleBeh?rdensowohlhinsichtlichderben?tigtenF?higkeitenalsauch

derentsprechendenInfrastrukturvorgro?eHerausforderungen.Au?erdemw?reeinekomplettdezentraleErschlie?ungvonModellenundAnwendungsf?lleninvielenF?llenineffizientund

redundant.Einem?glichstzentraleundniedrigschwelligeBereitstellungvonModellenmit

einemsicherenundzügigenZugriffwürdeinsbesonderekleinerenBeh?rdeneineErschlie?ungderPotenzialevonGenAIerm?glichen.EinesolcheBündelungsolltesowohldieBeschaffung

undVerfügbarmachungvoninderCloudgehostetenModellenalsauchdieBereitstellungvonOn-Premise-Modellenumfassen.EinezentraleBündelungvonAngebotenbirgtwesentlicheVorteile:

M?glichkeitzurVereinheitlichungvontechnischenSchnittstellen,Datenformaten,Anfragen(Prompts)undtechnischenArchitekturl?sungen.

SchaffungeinereinheitlichenGovernancefürdenfl?chendeckendenEinsatzvonGenAI-L?sungeninklusivetechnischer?Risikoleitplanken“,sogenannterGuardrails.

ZentraleBündelungvonFachwissenzurBereitstellungvonModellenundzurUmsetzungsbegleitung.

VorteilhafterePositionierungdurchSkaleneffekteinderVerhandlungmitAnbieternvonGenAI-L?sungen.

4.AusbauderbestehendentechnischenInfrastruktur

FürdieSkalierungvonGenAI-L?sungeninder?ffentlichenVerwaltungbedarfeseinergeeignetentechnischenInfrastruktur.GenAI-L?sungenben?tigenüberdenZugriffaufeinpassendes

SprachmodellhinauseineVielzahlvonKomponentenwieDatenplattformen,Vektordatenbanken,Frontend-undBackend-InfrastruktursowiePromptLibraries.InsbesondereL?sungenzur

Verwaltungvonbeh?rdeneigenenDaten,wieSoftwareoderProzessezurGew?hrleistungeinerhohenDatenqualit?t,sindangesichtsderRelevanzqualitativhochwertigerInputdatenfürGenAI-ModellevonhoherBedeutung(sieheTextbox).

SchlüsselkriterienfürdieRelevanzundNutzbarkeitvonDateninGenAI-Anwendungen

DieVerfügbarkeitrelevanterundnutzbarerDatenistVoraussetzungfürdiegewinnbringendeImplementierungvonGenAI-Anwendungen.VierKriteriensinddafürbesonderswichtig:

1.Qualit?t:EinehoheQualit?tderInput-Daten(zumBeispielLesbarkeit,inhaltlicheKorrektheitundKonsistenz)istVoraussetzungsowohlfürdieNutzungeinesLLM(zumBeispielmittelsIn-Context-Learning,One-Shot-

PromptingoderFinetuning)alsauchfüreinehoheQualit?tdesOutputs.

2.Quantit?t:DieVerfügbarkeitvonDateninausreichenderMenge(alsozumBeispielgenügendauszuwertendeBerichte)isteinwesentlicherFaktorfürspezifischenundvalidenOutputohneVerzerrungen,insbesondere

beimFinetuningvonLLMs.

3.VerfügbarkeitvonMetadaten:Metadatensindelementar,umdieVerwendungderrichtigenInputdaten

sicherzustellenundk?nnendabeiunterstützen,ProzessewieRetrievalAugmentedGeneration(RAG)pr?ziserdurchzuführen.

4.Klassifizierung:DieKlassifizierungvonDaten(zumBeispielOpenData,VS-NfD)istma?geblichsowohlbeiinfrastrukturellenAbw?gungen(zumBeispielHostinginderPublicCloudoderineinerPrivateCloudoder

On-Premise)alsauchbeiderAuswahlvonLLMssowiebeiderIntegrationvonSicherheitsvorkehrungenundZugriffsbeschr?nkungen.

4

DiegenanntenInfrastrukturelementesolltenvonIT-DienstleisterndesBundesflexibeleinsetzbarangebotenwerdenundkurzfristigskalierbarsein.Alternativk?nnenBeh?rdeneinesolcheInfrastrukturvonDrittanbieternbeziehen.Entscheidendist,dassdieL?sungenaufeinanderabgestimmtsindundVerwaltungensieals?Paketl?sung“beziehenk?nnen.DiesbegrenztnichtnurdieKomplexit?tderSysteme,sondernerlaubtauch,Bedarfebesserundschnellerzuerfüllen.ErforderlicheRessourcensolltenverl?sslichundschnellbezogenwerdenk?nnen,ohnelangeVorlaufzeitenunddurcheffektive,aberschlankeGenehmigungsverfahren.

ErfolgsfaktorenfürdiebeschleunigteSkalierung

5.SystematischerAusbauvonF?higkeitensowieGewinnungvonGenAI-Talent

UmGenAI-L?sungenfl?chendeckendentwickelnundeinsetzenzuk?nnen,istderAus-bzw.AufbaurelevanterF?higkeiteninnerhalbderVerwaltungnotwendig.Eswerden

zus?tzlicheFachkr?ftewieData-undSoftwareEngineersben?tigtundeinGro?teilderBesch?ftigtenmussüberF?higkeitenzursicherenInteraktionmitKI-Modellen

verfügen.WegendesstarkenWettbewerbsistdieRekrutierungvonFachkr?ftenmitrelevantenF?higkeiten

einegro?eHerausforderung.ZielgerichteteRecruiting-VeranstaltungenundPartnerschaftenmit

Universit?tenk?nnendieErfolgsaussichtenverbessern.ImWettbewerbmitderPrivatwirtschaftmuss

die?ffentlicheVerwaltungfürneueTalenteattraktiverwerden,etwadurchspezielleVergütungsmodelle,klareWeiterentwicklungspfade,modernausgestatteteArbeitspl?tzeundflexibleArbeitsmodelle.Es

bedarferheblichkürzererBewerbungs-undEinstellungsprozesseundeffektiverBindungsprogramme.In

AnbetrachtdesWettbewerbsumneuesTalentgiltesvorallemauch,dievorhandeneBelegschaftsystematischzuschulenundzubef?higen.Ad?quateLernmoduleund-reisen,interneRotationsprogrammeundexterne

Angebotek?nnenalsniedrigschwelligerEinstiegdienen,umersteGenAI-Erfahrungenzusammeln.SowiebeiGenAIPrompt–einerTestumgebungzurNutzungvonOpen-Source-SprachmodellenfürBesch?ftigteder

?ffentlichenVerwaltung.11

6.F?rderungdesAustauschsvonGenAI-L?sungen

ErsteGenAI-L?sungenwurdenbereitserfolgreichpilotiertundumgesetzt,etwain

FormvonChatbotszurBeantwortungvonBürgeranfragenundSynthesewerkzeugenfürF?rderberichte.ZurzeiterfolgenEntwicklungundPilotierungvonL?sungenmeist

dezentralineinzelnenEinrichtungen;erfolgsversprechendeAnwendungensindoftnichtbeh?rdenübergreifendbekanntundk?nnenkaumniedrigschwelliggeteiltwerden.Es

gilt,einenunkompliziertenundaufwandsarmenAustauschvonGenAI-L?sungenzuerm?glichen,umMehrfachaufw?ndefürsehr?hnlicheAnwendungsbedarfe

zuvermeiden.HierfürbietensichverschiedenetechnischeAns?tzean,zum

BeispieldieBereitstellungeinergemeinsamentechnischenPlattform,aufwelcherderCodevon

Anwendungsf?llenausgetauschtwerdenkann.Denkbarw?reaucheinzentralesSystembeziehungsweiseeineWissensdatenbank,diebeh?rdenübergreifendeTransparenzüberbestehendeAnwendungenschafftundsodenAustauschf?rdert.VermehrterAustauschvonfunktionalenL?sungenkannau?erdemdenAufwandfürBetriebundWartungsenken,etwabeidertechnischenundrechtlichenPrüfungsowieZertifizierung.überdiesf?rdertderAustauschvonfunktionalenundabgenommenenL?sungendieEinhaltungvontechnischenund

regulatorischenStandards.

7.EtablierungeineseffektivenRisikomanagementsvonGenAI

DieNutzungvonGenAI-L?sungenistmitRisikenverbunden.Einad?quatesRisiko-managementhilft,relevanteRisikenzuidentifizierenundgesamthaftzubewerten.VorteileundRisikenwerd