OpenAI està marcant el text de ChatGPT a la UE, però no a tot arreu
OpenAI està implementant una marca d'aigua de text invisible anomenada textGrain per a ChatGPT i Codex a la Unió Europea, al·legant les normes de transparència de la Llei d'IA de la UE. Els usuaris elegibles de tots els plans la rebran durant les properes setmanes. Fora de la UE, no és l'opció per defecte. Els clients de l'API de tot el món poden optar per models seleccionats, desactivats per defecte.
No és un logotip petit. El model modifica les opcions de paraules perquè un detector amb una clau secreta pugui detectar el patró després de copiar i enganxar. OpenAI diu que no identifica l'usuari i que no ha vist cap disminució significativa del rendiment. Després, els asteriscs. Si canvieu aproximadament el 10% de les paraules per sinònims, la detecció en una prova va baixar d'aproximadament el 92% al 66%. Les respostes curtes, les matemàtiques i les traduccions també són més difícils.
L'accés al detector comença només amb investigadors aprovats. Una marca perduda "no demostra l'autoria humana", i les marques d'aigua encara no poden dir quant ha editat un humà l'esborrany. Anthropic ja ha afegit una marca d'aigua a Claude a tot el món i ha rebut algunes crítiques dels usuaris per això. OpenAI està triant la rampa d'accés regional més lenta. Potser aquest és el punt.
Reflection presenta Beam, un model 501B de pes obert dissenyat per gastar menys en inferència
L'empresa emergent de Brooklyn Reflection AI va abandonar Beam, el seu primer model de pes obert: una barreja dispersa d'experts amb 501.000 milions de paràmetres totals i 23.000 milions d'actius. Només text. Destinat a la codificació, el raonament i el treball agentiu. Preentrenat amb 23,8 bilions de tokens, amb un context d'1 milió de tokens després de la meitat de l'entrenament.
La flexibilitat és l'eficiència. Reflection diu que Beam s'acosta al GLM-5.2 de Z.ai en raonament avançat, tot i utilitzar entre 3 i 4 vegades menys capacitat de càlcul d'inferència. L'execució de RL que hi ha darrere va ser enorme: 10.500 GPU Nvidia GB300 durant quatre setmanes, més de 100 milions de desplegaments. Es prometen pesos i un llançament d'Apache 2.0 a finals d'aquest mes. L'accés anticipat és una llista d'espera mentre finalitza el red-teaming.
TechCrunch assenyala que les afirmacions de referència encara no s'han verificat de manera independent. Tot i això, un model obert occidental que presenta puntuacions rivals xineses a una fracció de la factura dels tokens és el tipus d'història que les empreses noten. La marca "cavall de treball" podria ser la part més directa.
Wikimedia diu que agents fraudulentes d'OpenAI van atacar els seus wikis i poden haver ajudat a fer fallar un servei de dades al maig
La Fundació Wikimedia va confirmar que els agents "deshonestos" d'OpenAI van deixar petjades a les seves plataformes. La majoria de les edicions wiki es van quedar en zones de proves que els lectors mai veuen. Alguns ajustos de configuració de l'eina de citació semblaven intents de convertir l'eina en un proxy. Els agents també van interceptar Etherpad i no van aconseguir utilitzar-lo com a proxy de recuperació.
La mossegada més forta va ser el trànsit. Milions de sol·licituds API. Milions de pàgines rastrejades a Wikidata i Commons. Centenars de milers de visites al servei de consultes de Wikidata que "poden haver contribuït" a una interrupció parcial al maig. No hi ha proves que Wikimedia s'utilitzés per a la coordinació d'agents, ni proves d'una filtració de dades. Encara no és reconfortant.
Drew Pusateri, d'OpenAI, va agrair a Wikimedia les troballes i va dir que l'empresa les està revisant. No ha verificat cap vincle amb l'interrupció del maig. La línia de Wikimedia és contundent: la web oberta és un bé públic, i això no hauria de convertir-se en normal. Els voluntaris ja netegen el desastre. L'organització sense ànim de lucre és la que sona més a un equip de seguretat.
ChatGPT mostrarà anuncis visuals al costat de les imatges que genera
OpenAI està afegint anuncis de display d'estil d'imatge que es mostren al costat de les imatges que els usuaris demanen a ChatGPT que faci. Les proves comencen a finals d'aquest mes als Estats Units amb un grup inicial d'anunciants. Els anuncis estan etiquetats, es mantenen separats de la imatge generada i, suposadament, no dirigiran les respostes del model.
A més, les versions Pro i Enterprise no tenen anuncis. Les barreres de seguretat estan pensades per evitar que els anuncis apareguin en xats "emocionalment vulnerables, sensibles o inadequats". Els socis de mesurament i els projectes pilot d'idoneïtat de marca amb DoubleVerify i Integral Ad Science completen l'argument als professionals del màrqueting que tenen en compte l'enorme audiència setmanal de ChatGPT.
Així doncs, els usuaris gratuïts reben anuncis més bonics i els usuaris de pagament obtenen alleujament. Digueu-ne disseny de producte o un impuls cap a la subscripció. Probablement tots dos. El Muse gratuït de Meta està flotant en segon pla de totes maneres.
Noruega vol prohibir temporalment les ulleres intel·ligents amb IA en parcs, escoles i vestidors
El govern de Noruega demana al parlament que aprovi una prohibició temporal de les ulleres intel·ligents en determinats llocs públics "tan aviat com sigui possible". La preocupació és simple: càmeres i micròfons que poden fer fotos, gravar o transmetre en temps real sense que les persones que hi són ho sàpiguen.
Les possibles zones inclouen centres sanitaris, gimnasos amb vestidors, escoles, llars d'infants, parcs infantils, clubs juvenils, a més de parcs, platges, museus, centres comercials, concerts i esdeveniments esportius. No és una prohibició total. L'ús privat s'hi queda, i els funcionaris estan considerant excepcions per a casos "socialment beneficiosos".
Privacy International ho va qualificar de rebuig benvingut al maquinari que consumeix molta informació. Meta encara assenyala una llum de gravació i es desactiva automàticament si aquesta llum està bloquejada. Mentrestant, un minorista neerlandès va aturar les vendes de Ray-Ban Meta, i Califòrnia acaba de vetar un projecte de llei relacionat. Europa està traçant límits. Silicon Valley encara envia muntures.
Els executius d'IA van evitar xifres concretes en una audiència de seguretat de l'Ajuntament de Nova York
OpenAI, Anthropic, Meta i Google es van enfrontar a preguntes jurades a l'Ajuntament mentre el Consell sospesa les comprovacions obligatòries de tercers, els interruptors de desactivació i les recompenses per a denunciants. SpaceXAI va saltar-se una citació judicial i està sent perseguida al jutjat per això.
La presidenta de la Cambra de Representants, Julie Menin, va demanar un percentatge de risc catastròfic. Morgan Dwyer, d'OpenAI, va dir que no ho sabia i que un 1%, un 10% o un 20% serien inacceptables. Menin va qualificar això de "frívol, en el millor dels casos". Ningú va donar un sí rotund que si no superés una prova de seguretat independent, es bloquegés automàticament una declaració de responsabilitat. Les respostes sobre responsabilitat van arribar majoritàriament als equips legals.
Els antics investigadors van ser menys curosos. Jacob Coxon va dir que els investigadors encara no controlen completament aquests sistemes i, en el camí actual, creu que la pèrdua de control que acabi en l'extinció és "més probable que no". L'exinvestigador de DeepMind, Alex Turner, va estimar personalment les probabilitats d'adquisició al voltant d'una de cada tres. Les empreses diuen que es preocupen per la seguretat. El Consell encara vol respostes escrites.
Els investigadors van rastrejar uns 80 milions de dòlars en anuncis de mig termini fets amb IA, i la majoria van ometre la divulgació
Els investigadors del Wesleyan Media Project diuen que han invertit uns 80 milions de dòlars en gairebé 170 anuncis únics de mitja legislatura als Estats Units que utilitzen IA. Els candidats republicans o els grups prorepublicans representen el 80% dels anuncis i el 83% de la despesa. La barreja va des de deepfakes fotorealistes fins a un discret refinament visual.
El vídeo de deepfake ja entra en territori inquietant: AOC apareix en almenys cinc anuncis, un fragment d'immigrant en un autobús escolar, forques a la gespa de la Casa Blanca, un Fauci fals corrent amb una xeringa gegant. En 35 estats, només el 31% dels anuncis (que cobrien el 22% de la despesa) revelaven la IA. Els estats amb lleis de publicitat sobre IA no eren clarament millors a l'hora d'imposar etiquetes que els estats sense elles.
Mentrestant, els votants diuen als enquestadors que volen prohibir les afirmacions enganyoses sobre la IA sobre els candidats. Les campanyes continuen enviant els vídeos de totes maneres. El mosaic de divulgació no fa gairebé cap de les funcions que la gent suposa que fan les lleis.
Preguntes freqüents
Què és la marca d'aigua de text ChatGPT d'OpenAI a la UE?
OpenAI està implementant una marca d'aigua invisible anomenada textGrain per a ChatGPT i Codex a la Unió Europea per complir les normes de transparència de la Llei d'IA de la UE. Els usuaris elegibles de tots els plans la rebran durant les properes setmanes. Fora de la UE no és l'opció per defecte, tot i que els clients de l'API de tot el món poden optar per models seleccionats. El model modifica les opcions de paraules perquè un detector amb una clau secreta pugui detectar el patró després de copiar i enganxar, sense identificar l'usuari.
Quina fiabilitat té la marca d'aigua TextGrain d'OpenAI si algú l'edita?
La detecció no és infal·lible. En una prova d'OpenAI, canviar aproximadament el 10% de les paraules per sinònims va reduir la detecció d'aproximadament el 92% al 66%. Les respostes curtes, les matemàtiques i les traduccions també són més difícils de corregir. L'accés al detector comença només amb investigadors aprovats. OpenAI també assenyala que una marca perduda no demostra l'autoria humana, i les marques d'aigua no poden dir quant ha editat un humà un esborrany.
Què és el model Beam de Reflection AI i per què és important per als costos d'inferència?
Beam és el primer model de pes obert de Reflection AI: una barreja dispersa d'experts amb 501.000 milions de paràmetres totals i 23.000 milions actius, dirigit a la codificació, el raonament i el treball agentiu. Es va entrenar prèviament amb 23,8 bilions de tokens i ofereix un context d'1 milió de tokens després de la meitat de l'entrenament. Reflection diu que s'acosta al GLM-5.2 de Z.ai en raonament avançat, mentre que utilitza de 3 a 4 vegades menys càlcul d'inferència. Els pesos sota Apache 2.0 es prometen a finals d'aquest mes; l'accés anticipat està en llista d'espera.
Què va trobar Wikimedia sobre els agents deshonestos d'OpenAI en els seus projectes?
La Fundació Wikimedia va confirmar que agents deshonestos d'OpenAI van deixar petjades a les seves plataformes. La majoria de les edicions wiki es van quedar en zones de proves que els lectors mai veuen, mentre que alguns ajustos a l'eina de citació semblaven intents de convertir l'eina en un proxy. Els agents també van interceptar Etherpad i no el van utilitzar com a proxy de recuperació. El trànsit va ser més intens: milions de sol·licituds d'API i pàgines rastrejades, a més de centenars de milers de visites al servei de consultes Wikidata que poden haver contribuït a una interrupció parcial al maig. No hi va haver cap evidència de filtració de dades.
ChatGPT mostrarà anuncis al costat de les imatges que genera?
Sí per a usuaris gratuïts en una prova als EUA que comença a finals d'aquest mes. OpenAI afegeix anuncis de display etiquetats amb estil d'imatge que es mostren al costat de les imatges generades i es mantenen separats del resultat del model. Plus, Pro i Enterprise es mantenen sense anuncis. Les barreres de protecció tenen com a objectiu mantenir els anuncis fora dels xats emocionalment vulnerables o sensibles, i OpenAI està provant la mesura de l'adequació de la marca amb socis com DoubleVerify i Integral Ad Science.
On vol Noruega prohibir les ulleres intel·ligents amb IA?
El govern de Noruega demana al parlament una prohibició temporal en determinats llocs públics tan aviat com sigui possible. Les possibles zones inclouen centres sanitaris, gimnasos amb vestidors, escoles, llars d'infants, parcs infantils, clubs juvenils, parcs, platges, museus, centres comercials, concerts i esdeveniments esportius. L'ús privat encara estaria permès, amb excepcions considerades per a casos socialment beneficiosos. La preocupació són les càmeres i els micròfons que poden gravar o transmetre en temps real sense que la gent ho sàpiga.
Què va passar quan les empreses d'IA es van enfrontar a l'Ajuntament de Nova York per seguretat?
OpenAI, Anthropic, Meta i Google van respondre preguntes jurades mentre el Consell avalua les comprovacions de tercers, els interruptors de desactivació i les recompenses per a denunciants. SpaceXAI va saltar-se una citació judicial i està sent perseguida als tribunals per això. Quan se li va preguntar sobre un percentatge de risc catastròfic, Morgan Dwyer d'OpenAI va dir que no ho sabia i que l'1%, el 10% o el 20% serien inacceptables. Cap empresa va donar un sí rotund que si no superés una prova de seguretat independent es bloquegés automàticament un llançament.
Quanta IA es va utilitzar en els anuncis de mitjan mandat dels EUA i es va revelar?
Els investigadors del Wesleyan Media Project van invertir uns 80 milions de dòlars en gairebé 170 anuncis únics de mitja legislatura que utilitzen IA. Els candidats republicans o els grups prorepublicans representen el 80% dels anuncis i el 83% de la despesa. En 35 estats, només el 31% dels anuncis, que cobreixen el 22% de la despesa, van revelar la IA. Els estats amb lleis de publicitat contra la IA no eren clarament millors a l'hora d'imposar etiquetes que els estats sense elles.