🏛️ Com les grans tecnològiques van aconseguir l'ordre executiva d'IA de Trump ↗
Trump es va retirar d'una ordre executiva sobre IA que hauria impulsat les revisions de seguretat per als nous models. La raó, en essència: no frenar els Estats Units en la cursa amb la Xina.
La part destacable és que, segons sembla, l'ordre ja era força suau: voluntària, no una mesura reguladora radical. Tot i això, els líders tecnològics van pressionar molt contra ella i van aconseguir el que volien. (The Guardian)
🛡️ La intel·ligència artificial de Claude Mythos troba 10.000 vulnerabilitats d'alta gravetat en programari àmpliament utilitzat ↗
Anthropic va dir que el seu projecte Project Glasswing va trobar més de 10.000 vulnerabilitats de gravetat alta o crítica utilitzant Claude Mythos Preview. Això és impressionant, però també sembla una alarma d'incendis amb capa.
L'empresa diu que s'han confirmat 1.726 resultats com a veritables positius, amb 97 pegats aplicats i 88 avisos emesos. La part difícil ara no és trobar errors, sinó solucionar-los abans que els atacants rebin les mateixes joguines. (The Hacker News)
🛰️ La Casa Blanca aprova 9.000 milions de dòlars perquè les agències d'espionatge es posin al dia amb la IA ↗
La Casa Blanca va aprovar una sol·licitud secreta de 9.000 milions de dòlars per comprar xips avançats per a les agències d'intel·ligència dels Estats Units, destinats a executar models d'IA de frontera per a treballs classificats.
El Congrés encara ha d'aprovar el finançament més gran, però s'estan reprogramant 800 milions de dòlars per a un accés més ràpid a la computació. El subtext és difícil de passar per alt: fins i tot les agències d'espionatge ara estan atrapades a la cua dels xips d'IA, cosa que és absurda i previsible alhora. (Inquirer.com)
🪞 «No ho pots controlar tot»: l'augment de cirurgians plàstics als quals se'ls demana que creïn una «cara d'IA» ↗
Els cirurgians plàstics diuen que cada cop més pacients es fixen en selfies editats amb IA com a objectius quirúrgics: pòmuls més nítids, simetria perfecta, pell sense porus, tota la llista de la compra.
Els cirurgians alerten que la IA pot reorganitzar els píxels, no l'anatomia. Un va revisar procediments recomanats per la IA que podrien costar més de 100.000 lliures i que encara no oferirien la cara de fantasia. Un petit i sinistre laberint de miralls, aquest. (The Guardian)
💰 Anthropic tancarà una ronda de finançament de més de 30.000 milions de dòlars la setmana vinent ↗
Segons sembla, Anthropic està a punt d'una ronda de finançament per sobre dels 30.000 milions de dòlars, amb una valoració de més de 900.000 milions de dòlars. Sí, aquesta xifra és una bogeria.
La ronda està impulsada per l'enorme demanda de Claude en codificació, fluxos de treball empresarials i ciberseguretat. L'empresa també està corrent per bloquejar més computació, perquè en la IA actual, els diners són principalment combustible per portar vestit. (Business Standard)
🖼️ Les imatges de ChatGPT porten marcadors d'IA invisibles que tothom pot detectar: què han de saber els usuaris que no poden revelar la IA general ↗
Les imatges de sortida d'OpenAI ara porten dos senyals de procedència: metadades C2PA i la marca d'aigua SynthID de Google DeepMind. Una proporciona un context de fitxer més ric, mentre que l'altra està pensada per sobreviure a captures de pantalla i compressió.
També hi ha una eina de verificació pública en versió preliminar. No és infal·lible, no (els investigadors han demostrat atacs de marca d'aigua), però fa que "no he fet servir gens la IA" sigui una petita mentida molt més arriscada. (Tech Times)
Preguntes freqüents
Per què Trump es va retirar de l'ordre executiva sobre IA prevista?
L'article diu que l'ordre executiva sobre IA prevista es va suavitzar després de la pressió dels grans líders tecnològics. L'ordre ja es descrivia com a relativament suau i voluntària, centrada en les revisions de seguretat dels nous models d'IA. L'argument central en contra era que els processos de revisió addicionals podrien frenar els EUA en la seva cursa per IA amb la Xina.
Què va trobar Claude Mythos d'Anthropic en el programari?
Anthropic va dir que el seu projecte Project Glasswing va utilitzar Claude Mythos Preview per identificar més de 10.000 vulnerabilitats d'alta o crítica gravetat en programari àmpliament utilitzat. L'article assenyala que 1.726 troballes s'han confirmat com a veritables positives, amb alguns pegats i avisos ja emesos. La preocupació més general és si els defensors poden solucionar aquestes debilitats abans que els atacants explotin eines d'IA similars.
Per què les agències d'espionatge dels EUA demanen més xips d'IA?
L'article diu que la Casa Blanca va aprovar una sol·licitud secreta de 9.000 milions de dòlars per ajudar les agències d'intel·ligència dels EUA a comprar xips avançats per a models d'IA de frontera. L'objectiu és donar suport al treball d'IA classificat que requereix grans quantitats de computació. També assenyala que el Congrés encara ha d'aprovar un finançament més ampli, mentre que s'estan reprogramant alguns diners per a un accés més ràpid.
Què significa "cara d'IA" en cirurgia estètica?
«Cara amb IA» fa referència a pacients que porten selfies editades amb IA a cirurgians plàstics com a exemples de com volen ser. Aquestes imatges poden mostrar trets més nítids, una simetria perfecta o una pell que no és realista. Els cirurgians citats a l'article adverteixen que la IA pot canviar els píxels amb facilitat, però l'anatomia real té límits que la cirurgia no sempre pot superar.
Com afecten els usuaris els marcadors invisibles de les imatges de ChatGPT?
L'article diu que les sortides d'imatges de ChatGPT ara inclouen senyals de procedència com ara metadades C2PA i marques d'aigua SynthID. Aquests marcadors poden ajudar a identificar imatges generades per IA, fins i tot en casos en què algú no vulgui revelar l'ús de la IA. L'article també assenyala que les marques d'aigua no són infal·libles, però faciliten la detecció de l'ús d'imatges d'IA no revelades.