V posledních letech se umělá inteligence (AI) stala jedním z nejvýznamnějších prvků digitální transformace, který formuje vše od průmyslu po osobní technologie. S rostoucím vlivem AI na každodenní život a ekonomiku je zřejmé, že tato technologie nabízí obrovský potenciál pro inovace a zlepšení kvality života. Avšak s tímto potenciálem přicházejí i výzvy, zejména v oblasti bezpečnosti, soukromí a etických otázek. Pojďme se podívat na to, co nás pravděpodobně čeká.

Obsah článku

Vývoj legislativy AI v EU

Vývoj regulace umělé inteligence v Evropské unii je aktuální (2023) a jeho kořeny sahají jen několik let zpět, do doby, kdy AI začala mít zásadní dopad na průmysl, služby a osobní životy. V reakci na tyto rychlé změny a potenciální rizika, EU začala formovat legislativu, která by zajistila, že vývoj a použití umělé inteligence bude probíhat eticky, bezpečně a transparentně.

Významným milníkem na této cestě bylo přijetí „AI Act“, který je prvním pokusem o komplexní regulaci umělé inteligence na úrovni celé EU. Tento zákon zdůrazňuje klíčové aspekty, jako jsou bezpečnost, transparentnost a nediskriminace, a nastavuje rámec pro hodnocení rizik a monitorování AI aplikací.

  • Práce na legislativě specificky zaměřené na AI začala v EU několik let před představením samotného návrhu AI Act.
  • Konkrétní návrh AI Act byl Evropskou komisí představen v dubnu 2021.
  • Po představení návrhu následovala fáze diskusí a revizí.
  • V červnu 2023 Evropský parlament přijal své vyjednávací stanovisko k AI Act.
  • Podle posledních dostupných informací se očekává finalizace a přijetí AI Act do konce roku 2023, přičemž vstup do platnosti by měl následovat krátce poté, pravděpodobně v první polovině roku 2024, před volbami do Evropského parlamentu v červnu 2024.

Nařízení “AI Act” a jeho klíčové aspekty

Přijetí nařízení “AI Act” představuje zásadní krok v regulaci umělé inteligence v Evropské unii. Tento akt, který byl přijat s cílem řídit vývoj a použití těchto technologií, klade důraz na několik klíčových aspektů:

  • Definice a klasifikace AI systémů: Nařízení by mělo podrobně definovat, co přesně spadá pod pojem AI, a rozdělit systémy do kategorií podle jejich potenciálního rizika. Například, AI systémy používané v zdravotnictví by mohly být klasifikovány jako vysoké riziko, zatímco chatboty pro zákaznickou podporu jako nízké riziko.
  • Standardy pro transparentnost a vysledovatelnost: AI aplikace by měly být transparentní a jejich rozhodování by mělo být vysledovatelné. To znamená, že v případě AI systému používaného pro kreditní skóring, by uživatelé měli mít možnost zjistit, jak bylo jejich skóre vypočítáno.
  • Zásady nediskriminace: Nařízení by mělo zabránit předsudkům a diskriminaci v AI systémech. To by mohlo zahrnovat pravidla pro testování a auditování algoritmů, aby se zajistilo, že například systémy pro výběr zaměstnanců nevykazují genderové nebo rasové zkreslení.
  • Ochrana soukromí a osobních údajů: AI Act by měl zajišťovat, že všechny AI aplikace budou v souladu s GDPR a dalšími předpisy o ochraně údajů. V praxi to může znamenat, že systémy umělé inteligence zpracovávající osobní údaje budou muset zabezpečit vysokou úroveň ochrany údajů a transparentnosti vůči uživatelům.
  • Regulace a dohled: Bude potřeba zřídit úřady nebo mechanismy pro dohled nad AI systémy, včetně možnosti sankcionování za porušení pravidel. To může zahrnovat vytvoření speciálních agentur nebo rozšíření pravomocí stávajících regulačních orgánů.

V praxi by tato nařízení měla vést k větší bezpečnosti a důvěře veřejnosti v AI technologie, zatímco umožní inovaci a rozvoj v rámci etických a právních hranic.

Finalizace nařízení „AI Act“, prvního komplexního zákona o umělé inteligenci na světě, se očekává do konce roku 2023, ale není to jisté. Předpokládá se, že zákon bude pravděpodobně přijat někdy v první polovině roku 2024 před volbami do Evropského parlamentu v červnu 2024​.

Dále EU zřídila speciální výbor pro analýzu dopadu umělé inteligence, jehož úkolem bylo posoudit, jak ovlivňuje různé aspekty společnosti a ekonomiky. Závěry tohoto výboru poskytly cenné vhledy do toho, jak umělá inteligence mění pracovní trh, zdravotnictví, vzdělávání a mnoho dalších sektorů, a pomohly formovat směr, kterým by se měla EU v oblasti regulace AI ubírat.

NAŘÍZENÍ EVROPSKÉHO PARLAMENTU A RADY, KTERÝM SE STANOVÍ HARMONIZOVANÁ PRAVIDLA PRO UMĚLOU INTELIGENCI (AKT O UMĚLÉ INTELIGENCI) A MĚNÍ URČITÉ LEGISLATIVNÍ AKTY UNIE

Sdílení dat v Evropské unii

Sdílení dat hraje klíčovou roli v rozvoji a inovacích v oblasti AI. Velká data poskytují palivo pro algoritmy umělé inteligence, umožňují pokročilé analýzy a pomáhají při tvorbě inteligentních řešení, která mohou zlepšit řadu sektorů, od zdravotní péče po dopravu. EU proto klade důraz na vytvoření bezpečného a efektivního systému pro sdílení dat, který by zajišťoval ochranu soukromí a zároveň podporoval inovace. Tímto přístupem EU usiluje o vytvoření dynamického datového ekosystému, který podporuje inovační potenciál umělé inteligence.

Data Governance Act a Data Act: legislativa a její dopad

Data Governance Act a Data Act jsou klíčovými legislativními kroky EU v oblasti sdílení a správy dat. Data Governance Act se zaměřuje na usnadnění sdílení dat a zajištění důvěry v tento proces, zatímco Data Act se zabývá otázkami přístupu k datům a jejich využití. Tyto akty hrají důležitou roli v podpoře inovačního ekosystému v EU, zajišťují ochranu soukromí a podporují využití dat pro rozvoj umělé inteligence a dalších technologií. Mají za cíl vytvořit vyvážený rámec, který podporuje inovace, zatímco chrání práva a soukromí jednotlivců.

Příklady aplikace sdílení dat v praxi

Sdílení dat nachází praktické využití v mnoha oblastech, například při podpoře zeleného přechodu a inovací produktů a služeb. V oblasti zeleného přechodu mohou data pomoci optimalizovat energetickou efektivitu a snižovat emise, například prostřednictvím inteligentních energetických sítí a optimalizací dopravy. V oblasti inovací mohou data pomoci vývoji nových produktů a služeb, jako jsou personalizované zdravotní služby nebo vylepšené zákaznické zkušenosti, což vede ke zvýšení konkurenceschopnosti a efektivity.

Plán EU pro umělou inteligenci

V rámci dlouhodobého vývoje AI představuje Evropský parlament návrhy a cíle, které mají zajistit, že AI bude v EU rozvíjena a využívána způsobem, který podporuje inovace a zároveň chrání občany. Tato strategie zahrnuje vytvoření silného regulačního rámce pro umělou inteligenci, který podporuje etické, bezpečné a transparentní používání. Kromě toho je kladen důraz na podporu výzkumu a vývoje v oblasti umělé inteligence, aby EU zůstala konkurenceschopná v globálním měřítku. Tyto kroky jsou zaměřeny na to, aby AI přinášela pozitivní přínos pro společnost a ekonomiku, zatímco minimalizovala potenciální rizika a negativní dopady.

Rozvoj umělé inteligence v EU přináší řadu výzev i příležitostí, zejména v oblasti digitální infrastruktury a dovedností. Digitalizace a vytváření robustní infrastruktury jsou nezbytné pro podporu pokročilých AI aplikací, což vyžaduje významné investice a koordinaci na úrovni Evropské unie. Současně se objevuje potřeba rozvoje dovedností v oblasti AI, aby bylo možné plně využít její potenciál. Toto zahrnuje vzdělávání a školení pracovní síly v oblasti umělé inteligence a datových technologií, což je klíčové pro budoucí konkurenceschopnost a inovační kapacitu EU.