La Cimera d'IA de París destaca els enfocaments divergents
La recent Cimera d'Acció sobre la IA a París va posar de manifest els desacords globals sobre la governança de la IA. Una conclusió clau va ser la negativa dels Estats Units i el Regne Unit a signar una declaració destinada a promoure el desenvolupament ètic i sostenible de la IA.
Es van plantejar preocupacions sobre la manca de mesures de governança aplicables a la declaració i el seu impacte potencial en la seguretat nacional. El vicepresident dels Estats Units, JD Vance, va emfatitzar un enfocament de "Amèrica primer", advertint que una sobreregulació podria reprimir la innovació. Mentrestant, els líders europeus i altres líders internacionals continuen pressionant per marcs globals d'IA per garantir un desenvolupament responsable.
Eric Schmidt defensa la IA de codi obert per contrarestar la Xina
L'exdirector general de Google, Eric Schmidt, ha demanat als països occidentals que intensifiquin les iniciatives d'IA de codi obert per mantenir la competitivitat amb els ràpids avenços de la Xina. Ha assenyalat el DeepSeek de la Xina, un model de llenguatge de codi obert de gran format, com a exemple de com es pot democratitzar la innovació.
Schmidt va advertir que molts dels models d'IA líders als Estats Units continuen sent de codi tancat, cosa que podria dificultar el progrés científic. Va proposar un enfocament híbrid que combini models de codi obert i de codi tancat, aconseguint un equilibri entre innovació i seguretat. Per donar suport a aquest esforç, Schmidt va anunciar una inversió de 10 milions de dòlars en un nou programa de Ciència de Seguretat de la IA.
Scarlett Johansson es pronuncia contra els deepfakes d'IA
L'actriu de Hollywood Scarlett Johansson ha condemnat públicament l'ús indegut de la IA després que un vídeo generat per IA mostrés falsament com ella condemnava els comentaris antisemites de Kanye West. El vídeo, que també mostrava versions generades per IA d'altres celebritats, va ser creat sense el seu consentiment.
Johansson, que s'ha pronunciat sobre la protecció de la privadesa i la lluita contra la desinformació, va instar els governs a prendre mesures reguladores més contundents contra l'ús indegut de la IA. Va emfatitzar la necessitat de marcs legals clars per prevenir la desinformació impulsada per la IA i protegir les persones de les falsificacions profundes no autoritzades.
La IA i l'auge de la pornografia de venjança "barata"
Han sorgit noves preocupacions sobre la tecnologia "cheapfake" generada per IA, que permet als usuaris manipular imatges reals per convertir-les en contingut explícit o compromès. A diferència dels deepfakes tradicionals, les eines cheapfake són més accessibles i permeten fins i tot a usuaris no tècnics crear contingut multimèdia manipulat.
Això ha despertat temors sobre l'assetjament, la pornografia de venjança i l'explotació de la IA amb finalitats malicioses. Els legisladors i els grups de defensa estan pressionant per aconseguir salvaguardes i mesures legals més fortes per frenar l'augment de l'ús indegut de la IA en l'assetjament digital.