OpenAI dóna suport a projectes de llei al Congrés dels EUA sobre amenaces d'IA i armes biològiques
OpenAI està aquí donant suport a una pila de projectes de llei bipartidistes sobre dades biogràfiques: la Llei de la Web de Dades Biològiques, la Llei d'Estàndards de Dades Biogràfiques Preparades per a la IA i la Llei de Biologia a Escala. L'argument: impedir que els models turboalimentin les armes biològiques i els virus sintètics. Coses importants per a un comunicat de premsa de dimarts.
I espera... també donen suport a la part de la Llei FRONTIER que obliga els principals laboratoris a incorporar avaluadors de seguretat independents. És la primera vegada que signen un mandat federal específic com aquest, segons la cobertura de Hill.
Així doncs... l'empresa que va passar anys dient "confieu en nosaltres" de sobte demana al Congrés que faci que els de fora mirin per sobre l'espatlla. El progrés i el teatre del lobby poden viatjar junts.
Sigui com sigui, el missatge és fort: el risc biològic ja no és una nota a peu de pàgina del llibre blanc.
La Fundació Gates diu que invertirà mil milions de dòlars per ampliar l'accés a la IA.
Mentre els laboratoris discuteixen sobre frenar, la Fundació Gates acaba de prometre almenys mil milions de dòlars en dos anys per impulsar la IA cap a les persones que normalment en queden.
La distribució aproximada del desplegament de Goalkeepers: aproximadament un 40% educació, un 40% sanitat, un 10% agricultura, un 10% idiomes i fontaneria digital. Penseu en tutors de matemàtiques, eines de clíniques rurals, ajudants de sòl/cultius, a més de conjunts de dades perquè els models no siguin només en anglès per sempre.
La línia de Gates és contundent: sense intervenció, el mercat construeix la IA primer per als més rics. La filantropia pot semblar una solució o un embenat per a un problema estructural. Tot i així, mil milions no són un encongiment d'espatlles.
També, ecografia d'IA basada en telèfons que busca lectures de nivell hospitalari. Sorprenent si es distribueix a gran escala.
El nou model de raonament de Salesforce i Nvidia és tot el que els laboratoris d'IA haurien de témer
Caiguda de Dreamforce: Koa. El primer model de raonament CRM de Salesforce, entrenat posteriorment al Nemotron de pes obert d'Nvidia, dirigit a vendes, suport i les complicades tasques empresarials de diversos passos per les quals Claude i ChatGPT solen ser encaminats.
No hi ha dades reals de clients en formació; en canvi, hi ha personatges sintètics, incloent-hi "trucades enfadades", cosa que és gairebé massa evident. Salesforce manté els pesos dins del seu límit de confiança. El seu banc de CRM afirma que hi ha menys errors amb menys tokens. Tokenomics. L'eslògan preferit de tothom en la indústria.
Excepte que no descarten Anthropic. ClaudeForce encara existeix. Així que sí, construeix el teu propi motor de raonament i continua llogant els laboratoris de frontera. Contradicció. Lleuger. Extremadament Salesforce.
Els pilots ja estan en marxa: Fórmula 1, hospitals, cooperatives de crèdit. Els laboratoris de frontera potser haurien de suar una mica.
Meta ara permet que els agents d'IA gestionin les parts avorrides de la configuració de WhatsApp Business
La decisió de Meta és menys drama existencial, més aviat del tipus "si us plau, deixeu de fer que els desenvolupadors facin clic a dotze consoles". Les noves eines empresarials de WhatsApp MCP permeten a Claude, Cursor, Codex, ChatGPT (trieu el vostre agent) configurar missatges empresarials xatejant-ne.
Crea el compte. Verifica el número. Registra't per a l'API del núvol. Esborrany de plantilles. Vigila els webhooks. Fins i tot et rondinen quan les Condicions del servei o el pagament fallen silenciosament. La feina avorrida i enganxosa que ningú vol tenir.
La incorporació d'empreses a través del xat i MCP a tot arreu fins que alguna cosa es trenca d'una manera hilarant pot ser veritat.
De tota manera, si la teva configuració de WhatsApp Business de sobte et fa venir ganes de parlar amb un becari una mica massa impacient, ara ja saps per què.
Huang, d'Nvidia, divergeix amb els CEO d'Anthropic i OpenAI sobre la seguretat de la IA a Dreamforce
El mateix escenari de Moscone, però amb registres oposats. Amodei li diu a Benioff que el ritme és la manera de liderar: donar exemple, ser millor. Huang continua i qualifica la velocitat versus seguretat com una "falsa elecció". Forces del mercat. No calen noves lleis. Corre ràpid... tret que estiguis a punt d'enviar alguna cosa insegura, llavors fes una pausa.
Altman més tard: seguretat i monitorització abans que capacitats. "No hi hauria d'haver cap qualificació en això." Per tant, els tres CEOs no estan alineats. Potser adjacents.
El públic va tenir tot l'espectre en un sol dia de conferència inaugural: sermons sobre la desacceleració, optimisme de primera categoria i OpenAI emfatitzant la responsabilitat amb zero escapatòries de "tret que els competidors facin trampa".
Quin argument guanya a la pràctica continua sense resoldre's. Vigileu què sortirà el proper trimestre. Les paraules són barates. Les GPU no.
L'organisme espanyol de control de dades publica el primer informe de violació de dades vinculat a un agent d'IA
L'AEPD d'Espanya diu que va rebre la seva primera notificació d'una violació de dades personals presumptament provocada per un agent d'IA, utilitzant un LLM àmpliament conegut per trobar forats, accedir, modificar dades personals i consultar factures.
Intervenció humana limitada en múltiples etapes d'atac. Aquesta és la part esgarrifosa. No és ciència-ficció. Un incident de paperassa amb autonomia incorporada.
L'agència va amb compte: no anomena la model ni la víctima; diu que la infraestructura del proveïdor no es va veure compromesa només perquè algú conduïa un agent. Encara està en revisió. Encara inquietant.
Un cas ja no és una tendència. Però tampoc és teòric. Controladors, prepareu els vostres cronòmetres: els atacs ara són més ràpids.
Preguntes freqüents
Quins projectes de llei sobre IA i armes biològiques està recolzant OpenAI al Congrés?
OpenAI va donar suport a una sèrie de projectes de llei bipartidistes sobre dades biogràfiques, com ara la Llei de la Web de Dades Biològiques, la Llei d'Estàndards de Dades Biogràfiques Preparades per a l'IA i la Llei de Biologia a Escala. L'argument és impedir que els models turboalimentin les armes biològiques i els virus sintètics. OpenAI també dóna suport a la disposició de la Llei FRONTIER que obliga els principals laboratoris a incorporar avaluadors de seguretat independents; sembla que és la primera vegada que ha signat un mandat federal específic com aquest. El risc biològic ja no es tracta com una nota a peu de pàgina en un llibre blanc.
Com està gastant la Fundació Gates mil milions de dòlars en accés a la IA?
La Fundació Gates va prometre almenys mil milions de dòlars en dos anys per ampliar l'accés a la IA per a les persones que normalment en queden. El desplegament de Goalkeepers divideix aproximadament un 40% educació, un 40% sanitat, un 10% agricultura i un 10% idiomes i fontaneria digital, cobrint tutors de matemàtiques, eines clíniques rurals, ajudants de sòl i cultius, i conjunts de dades perquè els models no siguin només en anglès per sempre. Gates argumenta que sense intervenció, el mercat crea IA primer per als més rics. L'ecografia d'IA basada en telèfons que apunta a lectures de nivell hospitalari és un exemple ambiciós si es distribueix a escala.
Què és el model de raonament Koa de Salesforce i Nvidia?
Koa és el primer model de raonament CRM de Salesforce, entrenat posteriorment amb el Nemotron de pes obert d'Nvidia i dirigit a vendes, suport i treball empresarial complex de diversos passos. La formació utilitzava personatges sintètics, incloent-hi trucades irracionals, en lloc de dades reals de clients, i Salesforce manté els pesos dins del seu límit de confiança. Els bancs de CRM afirmen menys errors amb menys tokens. Salesforce no està abandonant Anthropic: ClaudeForce es queda, de manera que està construint el seu propi motor de raonament mentre continua llogant laboratoris de frontera, amb pilots ja a la Fórmula 1, hospitals i cooperatives de crèdit.
Com ajuda el WhatsApp Business MCP de Meta als agents d'IA?
El nou MCP de WhatsApp Business Tools de Meta permet que agents com Claude, Cursor, Codex i ChatGPT configurin missatges empresarials xatejant sobre ells. Els agents poden crear el compte, verificar el número, registrar-se a l'API del núvol, esborrar plantilles, veure webhooks i queixar-se quan les Condicions del servei o el pagament fallen silenciosament. L'objectiu és substituir la feina avorrida i enganxosa de diverses consolas que ningú vol tenir. La incorporació empresarial comença a semblar més com parlar amb un becari massa entusiasta que fer clic a dotze pantalles d'administració.
Com es va diferenciar Huang de Nvidia d'Anthropic i OpenAI en la seguretat de la IA?
A Dreamforce, Amodei va dir a Benioff que el ritme és la manera de liderar: donar exemple i ser millor, mentre que Jensen Huang va qualificar la velocitat versus la seguretat com una falsa elecció impulsada per les forces del mercat, sense necessitat de noves lleis tret que estiguis a punt d'enviar alguna cosa insegura. Més tard, Altman va emfatitzar la seguretat i la supervisió abans que les capacitats sense cap qualificador. Els tres CEOs no estaven alineats: el mateix escenari va fer sermons sobre la desacceleració, optimisme de reis dels xips i el discurs de responsabilitat d'OpenAI. Què s'envia el proper trimestre importarà més que les línies magistrals.
Què va informar l'organisme de control de dades espanyol sobre una violació de seguretat d'un agent d'IA?
L'AEPD d'Espanya va publicar la seva primera notificació d'una violació de dades personals presumptament duta a terme per un agent d'IA que utilitzava un LLM conegut per trobar forats, accedir, modificar dades personals i consultar factures. La intervenció humana limitada en múltiples etapes de l'atac és la part esgarrifosa: un incident de tràmits amb autonomia inherent. L'agència no va anomenar el model ni la víctima i va dir que la infraestructura del proveïdor no es va veure compromesa només perquè algú conduïa un agent. El cas encara està en revisió, però ja no és només teoria.