Els assessors de Trump diuen a les empreses d'IA que no faran proves de seguretat de models de pes obert, segons fonts ↗
L'administració Trump va dir a les principals empreses d'IA que no faria proves de seguretat en models de pes obert, segons persones familiaritzades amb les discussions. Això deixa una part força important de l'avaluació de riscos fora del marc governamental.
A la pràctica, els desenvolupadors i els usuaris poden haver d'assumir més responsabilitat en l'avaluació dels models abans del seu llançament o desplegament. Potser favorable a la innovació... però el moment és incòmode, ja que els models oberts s'estan tornant més capaços a un ritme ràpid. (Reuters)
Els models d'IA de pes obert s'estan acostant a la frontera. La bretxa de seguretat persisteix. ↗
Segons sembla, el GLM-5.2 de Z.ai només està uns mesos per darrere dels models tancats líders en capacitats cibernètiques i biològiques. Les proves de SaferAI van descobrir que no va rebutjar cap de les tasques ofensives de ciberseguritat o biologia de doble ús que se li van presentar.
Els models tancats poden confiar en l'entrenament de rebuig, classificadors i controls API. Els pesos descarregables són una criatura diferent: un cop alliberades, les salvaguardes es poden modificar o eliminar, fent que la bretxa de seguretat tingui una forma de canyó. (TechCrunch)
Samsung Electronics llança tecnologia de memòria d'IA de nova generació ↗
Samsung ha presentat un prototip de BV-NAND amb més de 400 capes i un nou disseny d'unió de làmines. L'empresa afirma que ofereix una densitat de memòria aproximadament un 58% més gran que la generació anterior, a més d'un rendiment de lectura, escriptura i entrada-sortida més ràpid.
Samsung també va descriure la memòria zHBM apilada verticalment situada sobre els acceleradors d'IA. Afirma que l'arquitectura podria oferir més de deu vegades la densitat de l'HBM5 convencional, triplicar l'eficiència energètica i una resistència tèrmica substancialment menor: promeses substancials, per dir-ho suaument. (Reuters)
La cursa pels centres de dades d'IA genera una càrrega de lloguer d'un bilió de dòlars per a les grans tecnològiques ↗
Microsoft, Meta, Oracle, Amazon i Alphabet han compromès uns 1,09 bilions de dòlars en arrendaments que encara no han començat, principalment per a centres de dades d'IA. Aquestes obligacions són gairebé quatre vegades els seus passius d'arrendament reconeguts.
La capacitat podria alimentar el proper boom del núvol. O, menys alegremente, deixar que les empreses paguin per instal·lacions immenses si la demanda d'IA decep: un abric d'un bilió de dòlars comprat abans que ningú comprovés el temps. (Reuters)
Anthropic signa un acord de 10.000 milions de dòlars amb Volta, una startup d'IA al núvol ↗
Segons sembla, Anthropic va acordar comprar 10.000 milions de dòlars en capacitat de càlcul a la startup d'IA al núvol Volta durant sis anys. L'acord donaria suport a un centre de dades noruec que oferiria 133 megawatts de capacitat.
S'espera que l'empresa de mineria de criptomonedes Bitdeer ajudi a desenvolupar les instal·lacions, que utilitzaran els sistemes Vera Rubin d'Nvidia. Anthropic està recopilant col·laboracions informàtiques com imants de nevera, excepte que aquests imants costen milers de milions. (TechCrunch)
La IA ofereix una "línia de salvació" per a les economies emergents, diu el Banc Mundial ↗
El Banc Mundial diu que la IA podria permetre a les economies en desenvolupament comprimir un segle de progrés en una dècada, sempre que millorin l'electricitat, la connectivitat i les habilitats digitals. Eines més petites i adaptades localment podrien donar suport a la salut, l'educació, l'agricultura i els serveis públics sense necessitat de models nacionals gegants.
El seu informe estima que el 4,5% dels llocs de treball en països de renda baixa i mitjana estan exposats a la IA generativa, en comparació amb el 14,2% en economies més riques. Tot i això, la promesa arriba amb advertències punyents sobre la desigualtat, la desinformació i la repressió política, una línia de vida amb diversos nusos lligats. (Reuters)
Preguntes freqüents
Per què el govern dels EUA no està fent proves de seguretat en els models d'IA de pes obert?
Segons l'article, l'administració Trump va dir a les principals empreses d'IA que els models de pes obert no s'inclourien en el seu marc de proves de seguretat governamentals. Això imposa més responsabilitat als desenvolupadors, distribuïdors i usuaris de models, que poden haver d'avaluar els riscos cibernètics, biològics, de mal ús i de desplegament de forma independent abans de llançar o adoptar aquests sistemes.
Per què els models d'IA de pes obert són més difícils de protegir que els models tancats?
Els models d'IA de pes obert es poden descarregar, modificar i operar fora de la infraestructura del desenvolupador original. Com a resultat, les salvaguardes com ara l'entrenament de rebuig, els classificadors i els controls d'accés es poden debilitar o eliminar. Els models tancats se solen lliurar a través d'API controlades, cosa que dóna als proveïdors un major marge per supervisar l'ús, restringir l'accés i actualitzar les proteccions després del desplegament.
Com haurien d'avaluar les organitzacions els models d'IA de pes obert abans del desplegament?
Un enfocament comú és provar el model en escenaris realistes d'ús indegut, incloent-hi tasques cibernètiques ofensives, sol·licituds biològiques de doble ús i intents d'eludir les salvaguardes. Les organitzacions també haurien d'examinar com s'allotjarà el model, qui podrà modificar-lo i quins sistemes de monitorització hi ha disponibles. Els desplegaments de més risc solen requerir controls d'accés més estrictes i una supervisió humana sostinguda.
Què està dissenyada per millorar la nova tecnologia de memòria d'IA de Samsung?
El prototip BV-NAND de Samsung utilitza més de 400 capes i un disseny d'unió de làmines destinat a augmentar la densitat de memòria alhora que millora el rendiment de lectura, escriptura i entrada-sortida. L'empresa també va descriure memòria zHBM apilada verticalment situada sobre acceleradors d'IA. Aquests dissenys estan pensats per fer front a les demandes de capacitat, energia i calor creades per càrregues de treball d'IA cada cop més intensives.
Per què es considera un risc financer el lloguer de centres de dades d'IA de les grans tecnològiques?
Segons s'ha informat, Microsoft, Meta, Oracle, Amazon i Alphabet han compromès uns 1,09 bilions de dòlars en arrendaments que encara no han començat, molts dels quals vinculats a centres de dades d'IA. La capacitat afegida podria donar suport al ràpid creixement de la demanda de núvol i IA. Tanmateix, és possible que les empreses encara hagin de pagar quantitats importants si la demanda es desenvolupa més lentament del que s'esperava o si la infraestructura continua infrautilitzada.
Com podria la IA beneficiar les economies emergents?
El Banc Mundial argumenta que la IA podria ajudar les economies en desenvolupament a enfortir la salut, l'educació, l'agricultura i els serveis públics, especialment mitjançant eines més petites adaptades a les necessitats locals. Aquests beneficis depenen d'una electricitat fiable, accés a Internet i habilitats digitals. Els governs també han de gestionar riscos com la desigualtat, la desinformació i la repressió política a mesura que s'expandeix l'adopció.