El nou "codi de conducta" d'IA de Microsoft diu als models que no pirategin sistemes ni enganyin humans
D'acord, Microsoft va establir tota una constitució pels seus models, com ara línies vermelles reals. Res de ciberatacs. Res de material nuclear. Res de fàbriques de deepfakes. I la gran qüestió: no es permet que el model s'escapi del tancament.
L'anomenen un codi general que anul·la el que hagis escrit al xat. La qual cosa és... una mica refrescant. O controlador. Potser tots dos.
Nadella també és aquí fora, assentint amb el grup de "calçar la frontera". Una postura acurada i una consciència de la pessimisme poden semblar iguals des de fora; Microsoft està optant per no ser el laboratori que s'encongeix d'espatlles.
Sigui com sigui, el document sembla que algú finalment ha escrit "si us plau, no us convertiu en un antagonista de pel·lícules de terror" en prosa corporativa.
OpenAI compra el fabricant de càmeres per a telèfons intel·ligents Glass Imaging per 300 milions de dòlars, segons un informe
Mentrestant, OpenAI va comprar discretament una startup de càmeres per més de 300 milions de dòlars. Glass Imaging. Fundada per ex-gent d'Apple Portrait Mode. Així que no és una adquisició aleatòria: aquesta gent ha enviat objectius que la gent coneix.
L'argument no és "la IA arreglarà el teu selfie en la postproducció". Són xarxes neuronals que aprenen les càmeres específiques d'un telèfon i treuen millors fotos amb el clic de l'obturador. Sensors petits, gran ambició.
OpenAI no va fer cap comentari. És clar. I sí, això es troba al costat de tots els rumors de maquinari, telèfons, auriculars i altres dispositius. Gairebé pots sentir algú dient "pila de visió" en una reunió i tothom assentint massa fort.
Una empresa de càmeres com a peça que falta per a un dispositiu continua sent una aposta oberta, o simplement una aposta molt cara que els píxels encara importen quan els chatbots es mengen el món.
Les accions globals d'IA cauen mentre els caps de la indústria demanen una disminució del desenvolupament
Els mercats no van gaudir del sermó sobre la seguretat. Els noms dels xips van ser afectats. SoftBank va ser completament criticat a Àsia. El llibre de tecnologia d'Europa va fer una ganyota. Les SOX van tenir un matí difícil.
El detonant va ser aquell rar moment en què els CEO coincideixen en alguna cosa: la "desacceleració" d'Amodei, amb Altman i Musk dient que sí, bàsicament. Altman també va comentar que OpenAI no farà una sortida a borsa aquest any per motius de seguretat... mentre que Anthropic encara s'hi està dirigint cap a una. Aquesta tensió és difícil d'aplanar.
Trump ho va descartar com una "conspiració malaltissa" contra la IA i els centres de dades. Michael Burry va desestimar els avisos com un soroll exagerat. Així doncs, l'ambient és: por existencial en una línia de temps, cinisme de memes a l'altra.
A més, els noms de la ciberseguretat van pujar. Perquè, és clar, la protecció contra la possibilitat que la IA esdevingui deshonesta és "comprar més programari de seguretat". El capitalisme troba la manera..
Les principals empreses d'IA han debatut la creació del seu propi organisme d'estàndards
La CNN diu que Anthropic, Google i OpenAI han estat parlant de crear el seu propi organisme d'estàndards, com una FINRA per a models de frontera. Hassabis va plantejar la idea fa mesos. Ara els grups de treball sembla que són reals.
Finançat per la indústria. Experts independents. Proven models avançats abans d'enviar-los. Converses en curs sobre si Washington vol participar o no.
L'autoregulació sempre sona noble fins que recordes que els mateixos laboratoris estan competint entre ells. Aleshores sona com un club amb un codi de vestimenta. Aleshores fas marxa enrere: d'acord, potser avaluadors externs amb accés similar al dels empleats ajudarien.
No tothom està convençut. Segons sembla, Zuckerberg va dir a Trump que deixés de banda la idea de la FINRA per a la IA. Així doncs, la coalició "ens vigilarem a nosaltres mateixos" ja té un famós resistent.
Anthropic s'adreça als assessors financers amb la nova eina Claude
Mentre la meitat dels debats de la indústria frenaven, Anthropic va enviar Claude per a Financial Advisors. Connectors a BlackRock, Schwab, Addepar, a més d'un munt de noms de grans actius com ara Envestnet i Orion.
Preparació de reunions. Revisió de portafoli. Seguiment de la feina atapeïda. Allò sense glamour que, d'alguna manera, encara es menja el dimarts d'un humà.
El moment és sorprenent, però: dies després de l'impuls financer d'OpenAI per a banquers i investigadors. Així que sí, estan marcant el pas de la frontera... i també competint per la quota de mercat de les carteres RIA. Una lleugera contradicció. Extremadament lleugera. Extremadament òbvia.
Si el vostre assessor comença a parlar amb fluïdesa sobre les vostres inversions, doncs ara ja sabeu per què.
Els líders de la IA demanen una desacceleració. L'equip de Trump diu que és responsabilitat seva
WIRED captura la imatge política amb claredat: els caps de laboratori volen ajuda per frenar; l'ambient de la Casa Blanca és de "guai, feu-ho vosaltres mateixos"
David Sacks bàsicament va dir que si els teus models no publicats t'espanten, sigues responsable, però deixa de fingir que necessites una exempció antimonopoli per formar un càrtel de seguretat. Dur. També és força difícil discutir-hi si has vist aquestes empreses durant cinc minuts.
La línia de Trump és més senzilla: els Estats Units lideren la Xina en IA i ell vol que continuï sent així: "qui guanyi la IA, guanya". El president de la Cambra de Representants, Johnson, adverteix que un esprint de regulació d'emergència podria sentenciar la cursa.
Així doncs, la promesa d'Altman d'"avaluadors independents amb accés similar al d'un empleat" cau en aquesta bretxa incòmoda: la construcció voluntària de confiança mentre el govern s'encongeix d'espatlles. El progrés i el teatre tornen a viatjar junts.
Preguntes freqüents
Què prohibeix el nou codi de conducta d'IA de Microsoft?
Microsoft ha publicat un codi de conducta general amb línies vermelles per als seus models, que inclouen la prohibició de ciberatacs, el treball nuclear i la prohibició de fàbriques de deepfakes. Una regla clau és que el model no pot escapar del tancament. El codi pretén anul·lar el que un usuari hagi escrit al xat. Satya Nadella també ha estat assentint amb la multitud de "pace the frontier" a mesura que els laboratoris es tornen més cautelosos públicament.
Per què OpenAI va comprar Glass Imaging per uns 300 milions de dòlars?
Segons sembla, OpenAI va comprar el fabricant de càmeres per a telèfons intel·ligents Glass Imaging per més de 300 milions de dòlars. L'empresa emergent va ser fundada per exenginyers d'Apple Portrait Mode que han desenvolupat funcions de càmera que la gent ja coneix. El seu argument de venda són xarxes neuronals que aprenen càmeres de telèfon específiques i milloren les fotos amb el clic de l'obturador, no només correccions d'IA en la postproducció. L'acord s'afegeix a rumors de maquinari sobre telèfons, auriculars i dispositius complementaris, tot i que OpenAI no va fer comentaris.
Per què van caure les accions globals d'IA després que els CEO dels laboratoris demanessin una desacceleració?
Els mercats van reaccionar malament al rar moment d'acord entre els CEO quan Amodei va instar a alentir el desenvolupament i Altman i Musk van estar-hi àmpliament d'acord. Els noms dels xips es van veure afectats, SoftBank va patir un cop dur a Àsia, el llibre de tecnologia d'Europa va fer una ganyota i la SOX va tenir un matí difícil. Altman també va suggerir que OpenAI no farà una sortida a borsa aquest any per preocupacions de seguretat, mentre que Anthropic encara corre cap a una. Els noms de ciberseguretat es van recuperar com a protecció contra la por a la IA deshonesta.
Anthropic, Google i OpenAI estan creant el seu propi organisme d'estàndards d'IA?
La CNN informa que Anthropic, Google i OpenAI han parlat de la construcció d'un organisme d'estàndards industrials, com una FINRA per a models de frontera, amb finançament de la indústria, experts independents i proves prèvies al llançament de models avançats. Demis Hassabis va plantejar la idea fa mesos i, segons sembla, ara hi ha grups de treball reals. Continuen les converses sobre si Washington vol participar-hi. No tothom està convençut: segons sembla, Zuckerberg va dir a Trump que deixés de banda la idea de la FINRA per a la IA.
Què és el Claude d'Anthropic per a assessors financers?
Anthropic va enviar Claude per a assessors financers amb connectors a BlackRock, Schwab, Addepar i noms de Wealth Stacks com ara Envestnet i Orion. L'eina s'adreça a la feina poc atractiva dels assessors, com ara la preparació de reunions, la revisió de carteres i el seguiment de tasques importants. El llançament arriba dies després de l'impuls financer d'OpenAI per a banquers i investigadors. Això significa que els laboratoris estan marcant el ritme en públic mentre continuen competint per la quota de mercat de les carteres RIA.
Com va respondre l'equip de Trump als líders de la IA que demanaven una desacceleració?
WIRED informa que els caps de laboratori volen ajuda per frenar, mentre que l'estat d'ànim de la Casa Blanca és que ho haurien de fer ells mateixos. David Sacks va dir que si els models no publicats us espanten, sigueu responsables, però deixeu de fingir que necessiteu una exempció antimonopoli per formar un càrtel de seguretat. La línia més senzilla de Trump és que els Estats Units lideren la Xina en IA i qui guanyi la IA guanya. El president de la Cambra de Representants, Johnson, adverteix que un esprint de regulació d'emergència podria sentenciar la cursa, deixant la promesa d'avaluador independent d'Altman en un buit voluntari.