OpenAI aturarà part del treball en el model d'IA Astra a causa de problemes de seguretat ↗
OpenAI està aturant el treball intern a Astra, que no compleix amb requisits de seguretat més estrictes, després que les avaluacions suggereixin que les seves capacitats cibernètiques podrien haver superat un llindar "crític". Segons sembla, l'agent podria trobar i explotar vulnerabilitats sense intervenció humana o dur a terme atacs des d'un objectiu d'alt nivell. Sí... aquesta és una línia força seriosa a creuar.
L'empresa està reforçant les proves aïllades, l'accés a la xarxa i a les eines, la protecció del pes del model, el xifratge i la supervisió. Astra no va estar involucrada en l'incident anterior de Hugging Face d'OpenAI, però el patró més ampli d'agents cada cop més autònoms fa que la contenció sigui una preocupació molt més gran. (Font: The Guardian)
Apple diu que els usuaris de Mac a la Xina es poden connectar al servei d'IA Qwen d'Alibaba ↗
Els usuaris de Mac que compleixin els requisits a la Xina continental ara poden connectar Qwen d'Alibaba a Siri i a les eines d'escriptura d'Apple. Això significa respostes més detallades a més d'anàlisi de documents i imatges, juntament amb la generació de text i imatges a partir de descripcions.
Francament, és una unió interessant: Apple aconsegueix un camí localment compatible amb funcions d'IA més fortes en un mercat de PC molt competitiu, mentre que Alibaba integra Qwen molt més profundament en l'ecosistema d'una altra persona. Apple diu que Alibaba no pot utilitzar el material enviat a través de l'extensió per entrenar els seus models. (Font: Reuters)
Google DeepMind entra en una nova era amb el canvi de rol de la IA per part del cofundador Demis Hassabis ↗
Demis Hassabis renuncia al lideratge diari de DeepMind i esdevé president i, alhora, assumeix el càrrec de científic en cap d'Alphabet. El seu col·lega de tota la vida, Koray Kavukcuoglu, assumeix el control operatiu com a vicepresident sènior en lloc de CEO, un canvi subtil de títol que diu molt.
La remodelació coincideix amb altres sortides importants d'investigadors i qüestions sobre si DeepMind s'està tornant menys independent i més absorbida en la màquina d'IA comercial de Google. Google nega que el canvi estigui relacionat amb el rendiment competitiu de Gemini. (Font: The Guardian)
Un nombre creixent de nens del Regne Unit declaren haver vist deepfakes explícits d'ells mateixos ↗
Les denúncies de nens del Regne Unit sobre imatges explícites falses o manipulades d'ells mateixos han augmentat. Report Remove va rebre 420 denúncies en només sis mesos, superant ja el total anual anterior de 397. Les eines de "nudificació" impulsades per IA fan que el problema sigui terriblement més fàcil d'escalar.
La Internet Watch Foundation afirma que moltes de les imatges manipulades denunciades eren prou greus com per creuar el llindar de material d'abús sexual infantil. Algunes víctimes també van ser objectiu de sextorsió, convertint una imatge generada per IA en una arma molt tangible. (Font: The Guardian)
Les funcions d'IA estan superant el valor empresarial, segons una enquesta ↗
Les empreses de programari empresarial estan desenvolupant funcions d'IA, però els clients no necessàriament les utilitzen. En una enquesta a més de 260 empreses de programari verticals, el 51% va dir que menys d'una quarta part dels seus clients utilitzaven les capacitats d'IA que havien creat. Una mica incòmode després de tot aquest enviament...
El coll d'ampolla s'assembla menys a la capacitat de la IA i més a la integració, la seguretat, la privadesa, els canvis en el flux de treball i la demostració de valor empresarial concret. Un fenomen particularment peculiar és el "tokenmaxxing": un gran consum d'IA que sembla impressionant en un tauler de control sense proves clares que produeixi millors resultats. (Font: Forbes)
La IA està canviant la feina més ràpid del que les dades poden seguir el ritme ↗
L'argument entre la IA i els llocs de treball s'està tornant més complex, no més clar. Un estudi que abasta més de 21.000 empreses nord-americanes va trobar que les empreses que van adoptar la IA més intensivament van augmentar el nombre de personal en un 10% i la contractació de personal inicial en un 12%, mentre que les empreses que van adoptar-la menys intensivament no van mostrar cap creixement del nombre de personal.
Però altres investigacions han trobat pressió laboral entre els treballadors més joves en llocs de treball exposats a la IA, i els economistes alerten que les empreses en creixement encara poden contractar mentre la IA canvia les ocupacions en l'economia en general. Per tant, la IA està eliminant llocs de treball i creant-ne... o això voldrien fer creure els conjunts de dades contradictoris. (Font: Fortune)
Preguntes freqüents
Quines són les principals novetats en IA ara mateix?
Les notícies recents sobre IA apunten a diversos temes que se superposen: capacitats autònomes més fortes, controls de seguretat més estrictes, integracions de plataformes més profundes, canvis de lideratge, riscos de seguretat en línia i valor empresarial incert. OpenAI està endurint les salvaguardes al voltant d'Astra, Apple està connectant Qwen als Mac a la Xina i DeepMind està canviant de lideratge. Al mateix temps, augmenten les preocupacions sobre els deepfakes, l'adopció empresarial i l'efecte de la IA en l'ocupació.
Per què OpenAI va aturar alguns treballs a Astra?
Segons sembla, OpenAI va aturar el treball intern d'Astra que no complia amb requisits de seguretat més estrictes després que les avaluacions suggereixin que les capacitats cibernètiques del model podrien haver arribat a un nivell crític. La preocupació és que un agent avançat podria descobrir i explotar vulnerabilitats amb una intervenció humana limitada o nul·la. En resposta, OpenAI està reforçant les proves aïllades, els controls d'accés, el xifratge, la supervisió i les proteccions al voltant dels pesos del model.
Com funcionarà Alibaba Qwen amb els Mac d'Apple a la Xina?
Els usuaris de Mac que compleixin els requisits a la Xina continental poden connectar el servei Qwen d'Alibaba a Siri i a les eines d'escriptura d'Apple. La integració pot admetre respostes més detallades, anàlisi de documents i imatges, i generar text o imatges a partir de descripcions. Per a Apple, l'acord proporciona una ruta compatible amb la normativa local cap a una funcionalitat d'IA més forta, mentre que Alibaba obté un accés més profund a l'ecosistema d'Apple. Apple diu que el material enviat no es pot utilitzar per entrenar els models d'Alibaba.
Què significa el canvi de lideratge de DeepMind per a la IA de Google?
Demis Hassabis s'allunya del lideratge diari de DeepMind i esdevé president i assumeix el càrrec de científic en cap d'Alphabet. Koray Kavukcuoglu assumirà el control operatiu com a vicepresident sènior. El canvi ha plantejat dubtes sobre si DeepMind s'està integrant més estretament amb les operacions comercials d'IA més àmplies de Google, tot i que Google nega els suggeriments que la remodelació estigui relacionada amb el rendiment competitiu de Gemini.
Per què les falsificacions profundes d'IA s'estan convertint en una preocupació més gran per a la seguretat infantil?
Les eines de manipulació d'imatges amb intel·ligència artificial poden facilitar la creació d'imatges falses explícites i realistes a gran escala. Els nens del Regne Unit denuncien cada cop més imatges manipulades o fabricades d'ells mateixos, i alguns casos han estat prou greus com per complir el llindar de material d'abús sexual infantil. Aquestes imatges també es poden utilitzar per a la sextorsió, és a dir, una imatge fabricada encara pot causar danys importants a la reputació, emocionals i financers.
Les empreses i els treballadors ja es beneficien de la IA?
Les darreres notícies sobre IA suggereixen que la resposta és mixta. Moltes empreses de programari afegeixen funcions d'IA més ràpidament que els clients que les adopten, i la integració, la privadesa, la seguretat i el valor empresarial mesurable continuen sent barreres importants. Les dades d'ocupació són igualment complicades: algunes empreses amb una forta adopció de la IA estan ampliant la contractació, mentre que altres investigacions apunten a la pressió sobre els treballadors més joves en llocs de treball exposats a la IA. L'impacte general depèn en gran mesura de la indústria, el flux de treball i com s'implementa la IA.