🛡️ Els reguladors del Regne Unit s'afanyen a avaluar els riscos del darrer model d'IA antròpica, segons informa el FT ↗
Segons sembla, els organismes de control financer britànics estan avançant ràpidament en el nou model Mythos d'Anthropic després de la preocupació que podria exposar greus debilitats en sistemes crítics. Les converses impliquen el Banc d'Anglaterra, la FCA, el Tresor i el Centre Nacional de Ciberseguretat, que és una alineació formidable per a una vista prèvia d'un model.
La preocupació és que Mythos és inusualment hàbil a l'hora de trobar vulnerabilitats de programari, tot i que Anthropic diu que el desplegament està molt limitat i dirigit a tasques de seguretat defensiva. S'espera que els bancs, les asseguradores i les borses rebin informació, de manera que això ara sembla menys xafarderies de laboratori i més política d'infraestructures.
🤖 A la conferència de HumanX, tothom parlava de Claude ↗
Anthropic semblava marcar la pauta a HumanX; aquesta era la història. A través de panells, xerrades de proveïdors i xerrades al passadís, Claude va anar apareixent com el model que la gent més volia per als fluxos de treball empresarials i de codificació.
El que va destacar va ser el silenci relatiu al voltant de ChatGPT. L'article suggereix que OpenAI encara té escala i diners, però l'ambient de la conferència es va inclinar cap a Claude com l'eina amb l'atractiu empresarial més marcat en aquest moment, o això sembla.
📄 Claude per a Word d'Anthropic és un altre repte per a l'imperi de programari de Microsoft ↗
Anthropic va llançar una versió beta de Claude per a Word, que s'endinsa més en el programari d'oficina quotidià en comptes de quedar-se encasellat com una eina de desenvolupament. Pot respondre preguntes sobre un document amb cites de seccions clicables, editar text seleccionat sense arruïnar el format i gestionar els canvis controlats.
El públic objectiu és força clar: equips amb molta documentació, especialment els del sector legal i financer. Això fa que això sigui més que un afegit de funcions: és un cop directe al territori de Microsoft i una decisió força descarada.
🌐 Els robots d'IA estan explorant a cel obert la web, i Anthropic lidera el grup ↗
Una nova anàlisi de les dades de Cloudflare argumenta que les empreses d'IA estan extraient molt més del web del que retornen. L'estadística clau és la ràtio de rastreig a referència (amb quina freqüència els bots rastregen pàgines en comparació amb amb quina freqüència hi retornen els usuaris), i Anthropic en surt especialment mal parat.
La ràtio d'Anthropic es reporta com a 8.800 a 1, amb OpenAI també alta però molt més baixa. La qüestió més general és contundent: el vell pacte web era rastrejar-nos i després enviar-nos trànsit. Els motors de resposta d'IA es queden la primera part i deixen que la segona es converteixi en boira.
⚔️ Una mirada a l'escalada de la cursa armamentística mundial de la IA, mentre els EUA, la Xina, Rússia i altres s'afanyen a construir armes i sistemes de defensa autònoms recolzats per la IA ↗
La darrera cobertura sobre IA militar tracta menys de demostracions ostentoses i més d'acceleració estratègica. Les grans potències estan impulsant sistemes de defensa autònoms i assistits per IA alhora, cosa que fa que tot plegat sembli una cursa de relleus on tothom va agafar el testimoni i es va oblidar dels frens.
Això planteja les preguntes habituals (control, escalada, responsabilitat), però ara amb més urgència. Un cop la IA s'integri més profundament en la selecció de objectius, la vigilància i la presa de decisions al camp de batalla, "experimental" comença a sonar com una etiqueta de paper en alguna cosa que ja està en moviment.
🏭 SoftBank del Japó llança una unitat per desenvolupar IA local ↗
SoftBank s'ha associat amb Sony, Honda i altres empreses japoneses per formar una nova empresa d'IA centrada en la "IA física", és a dir, models destinats a controlar màquines i robots, no només a respondre per text. Aquest és un camí diferent del concurs habitual de chatbots, i potser el més interessant.
L'ambició és enorme, i l'esforç, segons sembla, està dirigit a un model de base molt gran i a una llarga via cap a l'ús industrial. És part estratègia tecnològica nacional, part projecció lunar, part anime mecànic amb reunions de junta.
Preguntes freqüents
Per què els reguladors del Regne Unit estudien de prop el model Mythos d'Anthropic?
Els informes suggereixen que les autoritats del Regne Unit consideren Mythos com un risc potencial perquè pot ser inusualment hàbil a l'hora de trobar vulnerabilitats de programari. Segons sembla, en les discussions hi participen el Banc d'Anglaterra, la FCA, el Tresor i el Centre Nacional de Ciberseguretat. Aquesta combinació d'institucions indica preocupació pels possibles efectes en sistemes crítics, especialment en finances i infraestructures.
Què fa que el model Anthropic Mythos sigui diferent d'una versió normal d'IA?
La preocupació no és només que sigui un model nou, sinó que sembli especialment capaç en tasques de seguretat defensiva relacionades amb el descobriment de debilitats del programari. Segons sembla, Anthropic diu que l'accés està estrictament restringit, cosa que suggereix que el desplegament s'està gestionant amb més cautela que un llançament general per al consumidor. A la pràctica, això fa que sembli més a una capacitat de seguretat controlada que a una actualització estàndard de chatbot.
Per què en Claude va rebre tanta atenció a la conferència de HumanX?
Segons l'article, Claude va aparèixer repetidament en taules rodones, converses amb proveïdors i debats informals com una opció sòlida per a fluxos de treball empresarials i de codificació. L'article presenta Anthropic com un país amb un impuls notable entre els usuaris empresarials en aquell esdeveniment. També suggereix que l'ambient al voltant de HumanX era més moderat a ChatGPT, tot i que OpenAI encara té una escala i uns recursos importants.
Què fa realment Claude for Word per als equips amb molts documents?
La versió beta que es descriu aquí està dissenyada per funcionar dins de documents en lloc de simplement generar text independent. Pot respondre preguntes sobre un document amb cites de seccions, editar passatges seleccionats sense interrompre el format i gestionar els canvis controlats. Això la fa especialment rellevant per a equips legals, financers i altres que necessiten una revisió acurada en lloc d'un esborrany.
Què diu la ràtio de rastreig per referència sobre els bots d'IA i el web?
L'article presenta aquesta proporció com una manera de comparar quant rastregen els llocs web les empreses d'IA amb la freqüència amb què hi retornen els usuaris. En aquest context, una proporció molt alta suggereix una extracció amb poc trànsit de retorn. Es descriu Anthropic amb un rendiment especialment deficient segons aquesta mesura, cosa que aguditza la crítica més àmplia que els motors de resposta d'IA poden debilitar l'intercanvi web més antic d'indexació a canvi de referències.
Per què la gent vincula el progrés de la IA tant a les armes autònomes com a la IA física?
L'article assenyala dues tendències connectades: els governs que acceleren els sistemes de defensa recolzats per la IA i empreses com SoftBank que donen suport a models dissenyats per controlar màquines i robots. Juntes, mostren que la IA va més enllà del xat i la cerca en sistemes físics que poden sentir, decidir i actuar. Això planteja preguntes més àmplies sobre el control, la responsabilitat, l'ús industrial i la rapidesa amb què aquests sistemes passen d'experimental a operatiu.