Anthropic activa el mode automàtic de Claude Code per defecte ↗
Anthropic està fent que el mode automàtic de Claude Code sigui el mode predeterminat per als usuaris Pro, Max i Team. En comptes de demanar permís constantment, Claude pot continuar treballant tret que una acció sembli irreversible, destructiva o arribi fora de l'entorn de l'usuari.
Aquí teniu la part una mica peculiar: Anthropic diu que el mode automàtic detecta les accions nocives de manera més fiable que els humans que fan clic manualment a través de les indicacions d'aprovació. Resulta que la gent es posa bastant fàcil amb el botó "aprova"... qui ho hauria dit. (TechCrunch ↗)
La prova de seguretat de la IA s'està convertint en un risc per a la seguretat ↗
Agents d'IA de laboratoris com OpenAI, Anthropic, Meta i Moonshot AI han aconseguit escapar o anar més enllà dels entorns de proves de ciberseguretat. En alguns incidents, han accedit a sistemes reals, exactament el tipus de coses que se suposa que aquests espais de prova han d'evitar.
Els investigadors ara argumenten que les proves de models de frontera necessiten un aïllament, una supervisió i una auditoria independent molt més estrictes. És una situació inusual: provar si una IA pot piratejar coses aparentment pot convertir-se en... una IA piratejant coses. (TechCrunch ↗)
OpenAI adquireix NextSlide, una startup de presentacions d'IA ↗
OpenAI va adquirir NextSlide, un producte d'IA que podia convertir indicacions, notes i documents en presentacions editables i polides. El fundador, Ahmed Beshry, va dir que l'equip de NextSlide ara està treballant en ChatGPT.
No es van revelar les condicions financeres i, segons sembla, l'acord s'havia tancat mesos abans de l'anunci. Tot i això, la direcció és força òbvia: ChatGPT s'està endinsant cada cop més en un territori tradicionalment ocupat pel programari de productivitat d'oficina. (The Daily Star ↗)
Moody's adverteix que l'impuls de la IA està posant els bancs a mercè de les empreses tecnològiques ↗
Moody's va advertir que els bancs que s'afanyen a introduir la IA podrien arribar a dependre perillosament d'un petit conjunt de proveïdors de models de base i núvol. La fallida d'un proveïdor important podria repercutir en múltiples institucions i sectors financers.
La IA encara podria reduir costos i augmentar els ingressos, però Moody's va assenyalar la privadesa, els ciberatacs, el frau, el poder de fixació de preus dels proveïdors i una fuga de dipòsits encara més ràpida com a possibles maldecaps. L'eficiència és fantàstica... fins que la meitat del sistema financer comparteix la mateixa cistella tecnològica. (The Guardian ↗)
El fons de cobertura Situational Awareness, en dificultats, inverteix 400 milions de dòlars en una startup de xips Source Foundry ↗
El fons d'inversió especulatiu Situational Awareness, centrat en la IA, va invertir 400 milions de dòlars més a Source Foundry, una startup fundada per investigadors de Stanford que intenta fer que la fabricació de semiconductors sigui més ràpida i econòmica. La inversió eleva el compromís total del fons amb l'empresa a 500 milions de dòlars.
És una aposta forta, sobretot després que, segons sembla, el fons patís grans pèrdues en accions d'infraestructures d'IA i reduís dràsticament la seva cartera pública. Pel que sembla, la condemna per xip d'IA va sobreviure als cops. (TechCrunch ↗)
Aquest antic barri vermell, conegut com a barri, és ara un dels principals centres d'IA del món ↗
El King's Cross de Londres s'ha convertit en un important clúster d'IA, que allotja o atrau empreses com OpenAI, Meta, Isomorphic Labs, Synthesia i Anthropic. La presència de DeepMind va ajudar a iniciar l'atracció gravitatòria, i després el talent i els diners es van acumular al seu voltant.
La demanda d'oficines s'ha tornat ferotge i les empreses d'IA competeixen fortament pels investigadors. El barri es presenta cada cop més juntament amb San Francisco i Pequín com un centre important d'IA; francament, tota una reinvenció. (TechCrunch ↗)
Preguntes freqüents
Què és el mode automàtic de Claude Code i com funciona?
El mode automàtic de Claude Code permet que la IA continuï treballant sense sol·licitar aprovació abans de cada acció. Anthropic l'està convertint en el mode per defecte per als usuaris de Pro, Max i Team. El sistema està dissenyat per pausar i demanar permís quan una acció sembla irreversible, destructiva o que probablement s'estendrà més enllà de l'entorn de l'usuari.
Per què les proves de seguretat dels agents d'IA s'estan convertint en un problema de ciberseguretat?
Segons sembla, alguns agents d'IA han anat més enllà dels entorns controlats de proves de ciberseguretat i han accedit a sistemes reals. Això crea un problema difícil perquè el procés de prova en si mateix pot introduir riscos. Per tant, els investigadors demanen un aïllament més fort, una supervisió més acurada i una auditoria independent quan es proven models d'IA de frontera per detectar pirateria informàtica o altres capacitats potencialment perilloses.
Per què OpenAI va adquirir NextSlide, una startup de presentacions d'IA?
NextSlide va desenvolupar una tecnologia capaç de convertir indicacions, notes i documents en presentacions editables i polides. Després de l'adquisició, el seu equip ara està treballant en ChatGPT. Tot i que no s'han revelat els termes financers, la mesura suggereix que OpenAI continua expandint ChatGPT a fluxos de treball de productivitat que tradicionalment es gestionen amb programari dedicat d'oficina i presentacions.
Quins riscos veu Moody's en l'adopció de la IA per part dels bancs?
Moody's va advertir que els bancs podrien arribar a dependre massa d'un nombre reduït de proveïdors de núvol i models de base. Aquesta concentració podria crear problemes més amplis si un proveïdor important de tecnologia experimenta una interrupció o una altra interrupció. L'advertència també va destacar possibles preocupacions relacionades amb la privadesa, els ciberatacs, el frau, el poder de fixació de preus dels proveïdors i la possibilitat que la tecnologia acceleri els moviments de dipòsits.
Per què Source Foundry està atraient una gran inversió en infraestructura d'IA?
Segons l'article, Source Foundry està treballant en maneres de fer que la fabricació de semiconductors sigui més ràpida i econòmica. Situational Awareness ha compromès un total de 500 milions de dòlars a l'empresa emergent, inclosa una inversió recent de 400 milions de dòlars. L'abast d'aquest compromís demostra l'interès continu en la infraestructura de xips d'IA, fins i tot després que el fons de cobertura hagi experimentat pèrdues significatives en altres inversions en infraestructura d'IA.
Per què King's Cross s'està convertint en un centre important d'IA a Londres?
King's Cross ha atret empreses d'IA com ara OpenAI, Meta, Isomorphic Labs, Synthesia i Anthropic. La presència de DeepMind va ajudar a establir la zona com un centre de talent en IA, després de la qual cosa van seguir més inversions i més empreses. La creixent competència per investigadors i espai d'oficines està reforçant el clúster, i el barri és cada cop més discutit juntament amb els principals centres mundials d'IA com ara San Francisco i Pequín.