De Europese Commissie is het vlak voor afgelopen met het Europees Parlement eens geworden over de AI Act. De Act wil restricties stellen aan het gebruik van taalmodellen (LLM’s) zoals ChatGPT en Google Gemini.
Na dagenlange onderhandelingen is er overeenstemming bereikt, meldt verantwoordelijk Eurocommissaris Thierry Breton. De onderhandelaars moeten het akkoord nog wel voorleggen aan het voltallige EU-parlement en de EU-lidstaten, maar dat is doorgaans een formaliteit.
De nieuwe Europese AI-wet deelt AI-toepassingen in op risico. Hoe meer gevaren een toepassing in zich draagt, hoe strenger de regels. De gevaarlijkste, zoals burgervolgsystemen, worden verboden. Verder moeten alle taalmodellen straks voldoen aan eisen van transparantie. De EU wil precies weten welke data worden gebruikt voor de training van de modellen. Ook alle technische documentatie moeten helder zijn. OpenAI, Anthropic, Google/Deepmind en andere LLM-aanbieders moeten zich houden aan het Europese auteursrecht. Deze verplichtingen gelden voor alle ‘foundation models’ die video, tekst en afbeeldingen produceren, die converseren in laterale taal of die computercodes genereren. Ook wordt scraping verboden, waarbij beelden van internet worden gehaald voor gezichtsherkenning zoals Clearview AI.
De verwachting is dat de nieuwe regels over twee jaar na de eindstemming van kracht worden. Al binnen zes maanden na stemming gaan de diverse verboden in. Vereisten voor AI-systemen met een hoog risico worden na een jaar van toepassing.