🇬🇧 Una aposta audaç per la IA per mantenir el Regne Unit a l'avantguarda dels avenços científics i de la recerca, des de l'atenció sanitària fins a la millora dels serveis públics ↗
El principal finançador públic de la recerca del Regne Unit (UKRI) ha publicat la seva primera estratègia dedicada a la IA, que essencialment defensa més IA en la recerca, més habilitats en IA, més infraestructura d'IA, tot plegat.
Incorpora molts diners destinats a la IA, a més d'inversions específiques com la millora del superordinador DAWN de Cambridge i el suport a la tasca de "IA per a la ciència" (el descobriment de fàrmacs s'escau, com era d'esperar). Es llegeix com "fes els fonaments, però també envia els resultats"... que és un estat d'ànim, o una corda fluixa, o tots dos.
🛡️ OpenAI i Microsoft s'uneixen a la coalició internacional del Regne Unit per salvaguardar el desenvolupament de la IA ↗
OpenAI i Microsoft van prometre nous fons per al Projecte d'Alineació de l'Institut de Seguretat de l'IA del Regne Unit: el fons per a la investigació independent sobre l'alineació va augmentar, i ho emmarquen com a foment de la confiança, no només com a acció friqui.
La nota aquí és l'estructura: una coalició internacional, múltiples finançadors i un lot de subvencions que s'atorguen a diversos països. És "alineació com a ecosistema", no "alineació com la salsa secreta d'un laboratori"... fins i tot si els laboratoris encara tenen la major part de la salsa.
🧠 Avançant en la recerca independent sobre l'alineació de la IA ↗
OpenAI va comprometre 7,5 milions de dòlars al Projecte d'Alineació AISI del Regne Unit, diners destinats específicament a equips independents que realitzen treballs de seguretat/alineació fora de laboratoris de primera línia.
El discurs és força contundent: els laboratoris de punta poden fer un alineament amb un accés intensiu a models, però el camp també necessita idees idiosincràtiques, diverses i no correlacionades de persones externes (les seves paraules són més agradables, però ja ho enteneu). També hi ha una clara visió del món de "desplegament iteratiu" que s'està duent a terme: enviar, aprendre, endurir... repetir... o això sembla.
💳 El Tresor publica dos nous recursos per guiar l'ús de la IA en el sector financer ↗
El Tresor dels Estats Units va abandonar dues eines pràctiques per a les finances: un lèxic compartit d'IA (perquè tothom deixi de discutir sobre el significat de les paraules) i un marc de gestió de riscos d'IA per a serveis financers que adapta l'enfocament del NIST a les realitats de la banca.
L'estructura és una governança basada en el risc amb prou detall per ser utilitzada pels equips de compliment normatiu, els reguladors i els proveïdors sense que tothom hagi d'inventar les seves pròpies definicions en paral·lel. És el tipus de document prosaic que dóna forma discretament allò que s'aprova... cosa que és poderosa a la manera d'un arxivador.
🪖 El CTO del Pentàgon diu que "no és democràtic" que Anthropic limiti l'ús militar de Claude AI ↗
Un líder tecnològic del Pentàgon va rebutjar públicament que Anthropic restringís els usos militars de Claude, qualificant-lo de "no democràtic" que una sola empresa estableixi normes addicionals més enllà de la llei i la regulació.
Això se suma a la lluita més àmplia on diverses empreses de models de frontera tenen contractes de defensa per personalitzar la genIA per a contextos militars, i el punt de fricció és exactament el que esperaríeu: polítiques d'ús de l'empresa vs. apetència governamental per a l'ús operatiu. Tot plegat sembla una encaixada de mans que es converteix en una lluita de braços a mitja foto.
Preguntes freqüents
Què és l'estratègia d'IA de UKRI i per què és important?
La primera estratègia dedicada a la IA d'UKRI defensa la necessitat d'impulsar la IA en la línia de recerca: habilitats, infraestructura i desplegament pràctic. L'enfocament és "fer els fonaments, però també transmetre els resultats", cosa que indica pressió per convertir la inversió en recerca en beneficis per al públic. També apunta a un enfocament integral: no només els models de finançament, sinó també la computació, les persones i les vies d'adopció que fan que el progrés es mantingui.
Què permet realment l'actualització del superordinador DAWN de Cambridge?
L'actualització del superordinador DAWN de Cambridge es posiciona com un moviment d'infraestructura que dóna suport a treballs d'IA més ambiciosos a la recerca del Regne Unit. En termes pràctics, això normalment significa més capacitat de formació, avaluació i experiments a gran escala que les configuracions més petites tenen dificultats per executar de manera eficient. En molts processos de desenvolupament, una computació compartida més forta alleuja els colls d'ampolla de les universitats i accelera el cicle des dels prototips fins als resultats publicables i comprovables.
Què significa «IA per a la ciència» en el context de l'estratègia d'IA del Regne Unit?
«IA per a la ciència» es presenta com l'ús de mètodes d'IA per accelerar el descobriment, amb el descobriment de fàrmacs explícitament identificat. A la pràctica, això sovint inclou l'ús de la IA per generar hipòtesis, cercar grans espais de disseny o prioritzar experiments. L'èmfasi suggereix una apetència per resultats que van més enllà del món acadèmic: nous mètodes, cicles més curts i aplicacions que es connecten a l'atenció mèdica i als serveis públics.
Què és el Projecte d'Alineació de l'Institut de Seguretat de la IA del Regne Unit i qui el finança?
El Projecte d'Alineació de l'Institut de Seguretat de la IA del Regne Unit es descriu com una estructura de coalició internacional que dóna suport a la recerca independent sobre l'alineació, amb la contribució de múltiples finançadors. OpenAI i Microsoft es destaquen com a nous fons, emmarcats com a creació de confiança i suport a l'ecosistema. El model és "l'alineació com a ecosistema", amb subvencions que flueixen cap a equips de diferents països en lloc de concentrar el treball dins de laboratoris de frontera.
Per què OpenAI va invertir 7,5 milions de dòlars en investigació independent sobre l'alineació de la IA?
La lògica declarada d'OpenAI és que els laboratoris de frontera poden fer treballs de seguretat que depenen d'un accés profund a models, mentre que els equips independents poden aportar idees diverses i no correlacionades que els laboratoris podrien passar per alt. L'èmfasi es posa en ampliar el camp més enllà de "la fórmula secreta d'un laboratori". L'escrit també insinua una visió del món de "desplegament iteratiu": desplegar, aprendre dels comentaris sobre el desplegament, enfortir els sistemes i repetir.
Com afecten els recursos d'IA del Tresor dels EUA a la governança de la IA del sector financer?
El Tresor dels Estats Units va publicar un lèxic compartit d'IA i un marc de gestió de riscos d'IA per a serveis financers, adaptat del pensament d'estil NIST. La intenció és reduir la dispersió de definicions i donar als equips de compliment normatiu, als reguladors i als proveïdors un manual comú. En moltes organitzacions, documents com aquests configuren el que s'aprova a la pràctica, perquè estandarditzen les expectatives pel que fa als controls, la documentació i la presa de decisions basada en el risc.