Czy prawo ochroni nas przed sztuczną inteligencją?

W czerwcu Parlament Europejski przegłosował regulacje związane ze sztuczną inteligencją, tzw. AI Act. Wiele osób zastanawia się teraz, czy dokument ten realnie chroni nas przed zagrożeniami AI? Czy jego twórcy pominęli istotne kwestie w zakresie m.in. cyberbezpieczeństwa, które szybko odczuje także rynek tradycyjnego biznesu?

Najważniejszą częścią AI Act są kategorie ryzyka związane ze stosowaniem sztucznej inteligencji – minimalne, ograniczone, wysokie oraz niedopuszczalne. Szczególne znaczenie dla rozwoju systemów AI mają dwie ostatnie. Kategoria „wysokiego ryzyka” dotyczy sytuacji, w której sztuczna inteligencja może mieć negatywny wpływ na bezpieczeństwo osób i państw (w tym bezpieczeństwo militarne) oraz prawa człowieka i jego wolności.
– Systemy wysokiego ryzyka mogą mieć krytyczny wpływ między innymi na ludzkie życie i zdrowie. Chodzi o modele do tworzenia recept czy dobierania lekarstw. Konsekwencje tego typu aktywności AI mogą być poważne. Dlatego tego rodzaju systemy z kategorii wysokiego ryzyka mają znaleźć się pod szczególną zewnętrzną kontrolą – mówi Maksymilian Arciemowicz, ekspert ds. cyberbezpieczeństwa oraz biznesowego wykorzystania sztucznej inteligencji w Capgemini Polska.
Niedopuszczalne ryzyko – zakaz w Unii Europejskiej
Z punktu widzenia bezpieczeństwa najważniejsza w AI Act jest kategoria „niedopuszczalne ryzyko”. Systemy AI przyporządkowane do tej kategorii mają być całkowicie zakazane w Unii Europejskiej. Chodzi o wyjątkowo wrażliwe dane, które mogą być wykorzystane do nadużyć w sferze bezpieczeństwa i praw obywateli. Twórcy AI Act uznali, że poznawczo-behawioralne manipulowanie ludźmi, scoring (klasyfikowanie ludzi na podstawie ich zachowań, statusu społeczno-ekonomicznego lub cech [...]

#AI #AIAct #ARTYKUŁSPONSOROWANY #Capgemini #Prawo #SztucznaInteligencja

https://niebezpiecznik.pl/post/czy-prawo-ochroni-nas-przed-sztuczna-inteligencja/

Kann ein KI-Modell fehlerfrei trainiert werden?

Trainingsdaten für KI-Anwendungen sollen möglichst relevant, repräsentativ, fehlerfrei und vollständig sein. So steht es im neuen #AIAct, mit dem die #EU den Einsatz von #KI regulieren will. Ist das realistisch? Und wie lässt sich die Qualität der #Daten verbessern?

🎧 Darüber spricht Host @leonstebe mit HPI-Professor Felix Naumann und HPI-Wissenschaftlerin Dr. Hazar Harmouch in unserem Wissenspodcast #Neuland: https://podcast.hpi.de/72-new-episode

#Podcast

It'll be interesting to see how this will square with the #AIAct
https://www.politico.eu/article/open-source-artificial-intelligence-france-bets-big/

Similar to the #Wikipedia being rated as a #VLOP (very large online platform) by the EU Digital Services Act #DSA - together with proprietary platforms as Facebook and Co. - we see similar problems with the upcoming EU #AIAct not differ4enciating between open source and proprietary AI.

That's why @creativecommons and other organizations call for "Supporting Open Source and Open Science in the EU AI Act": https://creativecommons.org/2023/07/26/supporting-open-source-and-open-science-in-the-eu-ai-act/

"the FTC has issued multiple warnings that existing consumer protection laws apply to AI" https://www.washingtonpost.com/technology/2023/07/13/ftc-openai-chatgpt-sam-altman-lina-khan/

Maybe #AI doesn't need emergency legislation after all? #AIAct

@mlinksva I don’t think that generative AI is bad. Big tech syphons out too much data though and has an unfair head start, hard to catch up. The value of our data is reflected in GAFAM’s stock prices: it’s more than beans. It should be possible to carve out exceptions for “Open Source AI”, like the #AIAct drafted.

"Fino a oggi, i più grandi attori nel campo dell’intelligenza artificiale (generativa e non) hanno goduto di un amplissimo margine di azione, che ha permesso loro di produrre e vendere sistemi di dubbia efficacia e sicura pericolosità, di muoversi liberamente in un’area grigia come quella del copyright. L’#AiAct potrebbe costringerli a rivedere alcuni comportamenti a livello globale, aumentando anche il loro livello di responsabilità e trasparenza".
(cit.)

https://www.wired.it/article/intelligenza-artifciale-openai-chatgpt-google-microsoft-ai-act/

AI Act in bilico. La lobby dell’high-tech non è d’accordo: “regole troppo rigide”

Oggi, più di 150 #CEO di importanti #aziende europee come Renault, Heineken, Airbus e Siemens hanno inviato una lettera aperta al #Parlamento #europeo, alla #Commissione europea e ai governi degli Stati membri dell’#UE esprimendo la loro #opposizione alla legge sull’#intelligenza #artificiale recentemente #approvata (#AIAct ).

#redhotcyber #online #it #web #ai #hacking #privacy #cybersecurity #cybercrime #intelligenzaartificiale #informationsecurity #ethicalhacking #dataprotection #cybersecurityawareness #cybersecuritytraining #cybersecuritynews #infosecurity

https://www.redhotcyber.com/post/ai-act-in-bilico-la-lobby-dellhigh-tech-non-e-daccordo-regole-troppo-rigide/

Alles was Sie über Künstliche Intelligenz wissen sollten in technischer und rechtlicher Hinsicht können Sie auch in einem unserer Herbst Workshops lernen.

Bonus: Wer sich jetzt schon für unseren September Workshop anmeldet profitiert von unserem Early Bird Bonus - 10% Rabatt mit dem Code: “13.09.2023” (ohne Anführungszeichen)

#künstliche #intelligenz #ki #ai #Recht #Praxis #ChatGPT #AIAct

https://researchinstitute.at/academy/20-september-2023-kuenstliche-intelligenz/

#OpenAI: attività di lobbying per cambiare l’#AIAct https://www.punto-informatico.it/openai-attivita-lobbying-ai-act/

Esclusivo: OpenAI ha fatto pressioni sull'UE per annacquare il regolamento sull'IA

@informatica

#OpenAI ha fatto pressioni sull'UE per indebolire l'imminente regolamentazione dell'IA, anche se in pubblico chiede barriere di protezione dell'IA più forti, come mostrano i documenti ottenuti dal #TIME

#AIAct #lobbying

https://time.com/6288245/openai-eu-lobbying-ai-act/

AI Act: EU stellt Gesetz zur KI-Regulierung vor
Europa steht an vorderster Front der KI-Regulierung. Ein neues KI-Gesetz, der AI Act, vorgeschlagen vom Europäischen Parlament, zielt darauf ab, missbräuchliche Anwendungen von künstlicher Intelligenz (KI) einzudämmen.

Der Entwurf, der kürzlich veröffentlicht wurde, konzentriert sich auf die sich
https://www.apfeltalk.de/magazin/news/ai-act-eu-stellt-gesetz-zur-ki-regulierung-vor/
#BlickberDenTellerand #News #Vorschlag #EU #Gesetz #AIAct

Pubblicata GuerreDiRete, la newsletter di Carola Frediani

@informatica

Oggi si parla di:
- #AIAct Atto I
- Maledetti modelli di AI
- Sorveglianza biometrica
- #TikTok eurofobia
- #Reddit rationem
- la #NATO arruola startup
- #Giove tutto il mane
- BigG Vs #Antitrust
- Giornalismo e social

#GuerrediRete
Qui il post di @carolafrediani
⬇️⬇️⬇️⬇️⬇️
https://guerredirete.substack.com/p/guerre-di-rete-ai-act-leuroparlamento

Gran numero quello di oggi di #guerredirete https://guerredirete.substack.com/p/guerre-di-rete-ai-act-leuroparlamento?utm_source=substack&utm_medium=email
Ottima sintesi degli elementi rilevanti su #AIact, ma anche di tutto il mondo #chatGPT e affini.
Sempre una certezza @carolafrediani!

cosa ne pensi?
Il Parlamento europeo approva l'AI Act, stop al riconoscimento facciale in diretta

#aiact #parlamentoeuropeo #chatgpt

L’UE est la seule grande démocratie à avoir amorcé une régulation de l’IA. Les États doivent très vite encadrer leurs usages pour que ces technologies soient au service du progrès humain et rien d’autre #IntelligenceArtificielle #AIAct https://nitter.net/oliviertesquet/status/1668964101031174145

Das #EUParl hat mit großer Mehrheit seine Position zum #AIAct - dem Gesetz zur Regulierung künstlicher Intelligenz - beschlossen. Nun wird das Gesetz im Trilog weiter verhandelt. Der AI Act soll #KI auf der Grundlage des Schadenspotenzials regulieren. Er verbietet Anwendungen, die ein unakzeptables Risiko darstellen und legt strenge Regeln für den Einsatz in Hochrisikobereichen fest.

https://www.euractiv.com/section/artificial-intelligence/news/ai-act-enters-final-phase-of-eu-legislative-process/

The discussion around #EU #AIAct was already messy. Now it's going to be even messier.
#AI
https://www.euractiv.com/section/artificial-intelligence/news/ai-acts-plenary-vote-cast-with-uncertainty-as-political-deal-crumbles/

AI Act’s plenary vote cast with uncertainty as political deal crumbles https://www.euractiv.com/section/artificial-intelligence/news/ai-acts-plenary-vote-cast-with-uncertainty-as-political-deal-crumbles/?utm_source=dlvr.it&utm_medium=mastodon #AIAct #artificialintelligence #copyright #EuropeanPeoplesParty

Artificial intelligence : We must prevent the dictatorship of the machine https://www.euractiv.com/section/digital/opinion/artificial-intelligence-we-must-prevent-the-dictatorship-of-the-machine/?utm_source=dlvr.it&utm_medium=mastodon #AI #AIAct