Per què la IA de vegades s'inventa coses [Vídeo i qüestionari]

Resposta curta: la IA de vegades s'inventa coses perquè prediu paraules següents plausibles, no fets verificats; la fluïdesa no és una prova. Quan el tema és de nicho, d'alt risc o exigeix ​​noms i xifres exactes, els buits s'omplen amb conjectures segures, tret que fonamenteu la resposta i verifiqueu afirmacions sòlides.

Articles que potser t'agradaria llegir després d'aquest:

🔗 Deixa de tractar la IA com si fos Google.
Descobreix per què els millors resultats en IA requereixen un enfocament diferent.

🔗 El teu primer repte d'IA adequat
Crea un repte clar i eficaç utilitzant una estructura senzilla.

🔗 Les 4 parts d'una bona indicació d'IA
Descobreix quatre elements essencials que milloren la qualitat de la indicació d'IA.

🔗 Què és realment la IA?
Entén la intel·ligència artificial en termes senzills, pràctics i quotidians.

Conclusions clau:

Predicció sense saber: Tracteu la prosa fluïda com a finalització de patrons, mai com a prova jurada.

Trampa de confiança: el to assertiu és estil; la precisió s'ha de comprovar a part fora del xat.

Envasos falsos: Busca els títols i les cites de les teves referències abans de confiar en llistes de referències impecables.

Motiva la resposta: enganxa les notes de la font i prohibeix les URL, els estudis o les estadístiques inventats.

Auditoria humana: primer cal comprovar la reclamació més arriscada, especialment en el cas de salut, dret o finances.

Predicció no és el mateix que saber

Aquí teniu la versió directa: la majoria de models de xat són màquines de patrons. Feu una pregunta. Generen una resposta que s'ajusta a la forma d'una bona resposta. Aquesta forma inclou fets, to, estructura: tot el vestit. De vegades, el vestit embolica coneixement real. De vegades, embolica una conjectura segura que ha omplert un buit.

Suposo que una metàfora lliure ajuda, i després ho repassaré una mica. Imagineu-vos un pianista de jazz que ha sentit un milió de cançons. Demaneu-li que toqui "aquella de la maleta blava" i potser s'inventarà una melodia preciosa que mai ha existit, perquè la petició sonava com hauria de ser. Espereu, això exagera l'art. És més aviat com autocompletar amb esteroides. El model està completant un paràgraf plausible, no obrint un armari d'arxius anomenat Veritat.

Així doncs, quan la gent pregunta per què la IA de vegades s'inventa coses, la resposta curta és: els buits s'omplen amb allò que sona estadísticament correcte. Si falta una cita, el model n'inventa una que sembla acadèmica. Sense estar segur d'una xifra, ofereix una xifra ordenada. Sense el segon nom d'una persona, en fabrica una que s'adapta a l'època i la cultura. Una mica sorprenent al principi. Un cop veus el patró, no tant. 

• L'objectiu de la generació és un text fluid, no la veritat verificada.
• Els buits de coneixement encara reben paraules.
• La probabilitat de "sona bé" pot superar "és bé" en la classificació del model.

Confiança versus precisió: la bretxa incòmoda

Els humans ens protegim quan no estem segurs. Diem "Crec", "potser", "hauria de comprovar-ho". Els models també es poden protegir, si els ho demanes, però els resultats per defecte sovint es llegeixen com una sessió informativa segura. Aquest poliment és una característica de l'entrenament per a la utilitat, no un senyal que cada afirmació estava fonamentada.

La confiança i la precisió són indicadors diferents. Un es pot posar al màxim mentre que l'altre es manté a prop de zero. També ho has sentit amb la gent: el company de feina que explica un procés incorrecte amb total certesa. La IA pot fer el mateix, però més ràpid i amb un format més agradable.

Conclusió pràctica: tracta la fraseologia assertiva com a estil, no com a prova. Si una resposta no té fonts que puguis comprovar, no admet cap incertesa i té un munt de noms o números específics, vés més a poc a poc. L'especificitat sense fonament és un indici clàssic. 

• To assertiu ≠ contingut verificat.
• Demaneu al model que marqui la incertesa a propòsit.
• Prefereixo "això és del que no estic segur" a un fals calçotet hermètic.

Cites i detalls fabricats que semblen reals

Això pica perquè sembla molt professional. Títols de treball falsos. Noms de revistes falsos. URL falses que gairebé semblen clicables. Cites falses atribuïdes a persones famoses. El format sovint és perfecte (cursiva, s'eviten aquí els marcadors de posició amb forma d'any a propòsit, noms que sonen d'autor) i aquest format enganya els usuaris que li demanen més informació.

Això passa per una raó translúcida. La forma de la citació és habitual en el text d'entrenament. Quan es demanen "fonts", el model pot produir la forma d'erudició sense recuperar un registre real. És com demanar a algú que tregui un rebut de memòria. S'obté alguna cosa que sembla un rebut. Potser la botiga no ha existit mai.

Una vegada vaig veure un esborrany inventant-se un estudi sobre la productivitat del treball remot amb una llista d'autors d'aspecte immaculat. Semblava revisat per experts. No era res. Aquest és el perill: el teu cervell es relaxa quan l'envàs sembla car. No et relaxis. 

• Demana títols que puguis cercar tu mateix, i després busca'ls seriosament.
• Desconfia dels paquets de citació més atribució que mai has demanat.
• Si no es pot trobar una "font" ràpidament, considereu l'afirmació com a no fonamentada.

Quan el risc d'invenció és més alt

No totes les xerrades són igualment perilloses. Un poema sobre el cafè pot inventar metàfores lliurement: aquesta és la qüestió. Una dosi de medicament, una data límit legal, la política de preus d'un competidor o una afirmació històrica d'un article publicat viu en un planeta diferent.

El risc augmenta quan el tema és de nicho, recent o molt específic. També augmenta quan es demana xifres exactes, documents amb nom, dades internes d'empreses privades o "enumerar deu estudis revisats per experts". Com més precisa sigui la pregunta, més temptació tindrà el model d'omplir els espais en blanc amb elements plausibles.

Les respostes llargues i impressionants poden ser més arriscades que les curtes i cauteloses. La longitud sembla esforç. L'esforç sembla cura. La cura sembla veritat. Aquesta cadena serpentejant d'impressions és com els mals fets s'escolen a les diapositives. 

• Alt risc: salut, dret, finances, compliment normatiu, seguretat, persones amb nom, estadístiques exactes.
• Risc mitjà: processos de nínxol industrial, configuració d'eines, llistes de "bones pràctiques".
• Menor risc: pluja d'idees, esquematització, reescriptura del propi esborrany, correccions de to.

Sortides fiables vs. inestables: una comparació ràpida

Una taula és millor que una altra xerrada d'ànim. Inclou lleugeres peculiaritats, perquè les xerrades normals són peculiars.

Tingues a mà aquesta targeta de puntuació mental. Començaràs a notar resultats tremolosos de la mateixa manera que notes un somriure lleugerament estrany en una foto: alguna cosa està posada.

Com detectar respostes inventades sense tornar-se paranoic

No cal verificar tots els adjectius. Sí que cal tenir l'hàbit de verificar barat les afirmacions que importen. Comprova la vora més aguda: el número, el nom, la política, la cita. Si aquesta vora falla, la resta de la resposta queda en llibertat condicional.

Un altre indici: contradicció interna. El model diu que una eina "sempre" fa X, i després descriu una excepció com si fos estàndard. O inventa una funció i després explica com desactivar-la, com un somni que no para d'inventar portes. Pregunteu a preguntes posteriors que sàpiguen quins són els punts febles. Els mons inventats tendeixen a trontollar sota pressió.

També cal vigilar els envasos "massa perfectes". Cada paràgraf és igualment polit. Cada recomanació és igualment segura. L'experiència genuïna sol tenir textura: advertències, compromisos, "depèn". La perfecció plana mereix un examen més a fons. 

• Verifica primer l'afirmació més arriscada, no tot l'assaig.
• Pregunta "de què estàs menys segur?" i mira si la màscara rellisca.
• Verifiqueu noms, títols i números fora del xat.
• Prefereix respostes lligades al text que has enganxat a fets que surtin de la llum.

Hàbits ràpids que redueixen la invenció

No pots eliminar les al·lucinacions amb una frase màgica (ho sento), però sí que pots reduir el radi de l'explosió. Les bones indicacions limiten el joc. Les dolentes indicacions conviden a la improvisació.

Prova hàbits com aquests. Semblen avorrits. Funcionen més sovint que els trucs enginyosos.

• Abasteix el coneixement: "Utilitza només les notes que enganxo. Si falten, digues que no ho saps."
• Prohibir les fonts falses: "No inventeu cites, cometes ni URL".
• Etiquetes d'incertesa de la força: "Etiqueta cada vinyeta: conegut / inferit / conjectura".
• Demaneu alternatives: "Doneu dues opcions i per què cadascuna podria ser incorrecta".
• Sol·licita un passi de dubte: "Enumera les suposicions que has fet".
• Prefereix l'estructura a l'atmosfera: taules, llistes de control i columnes d'afirmacions/evidències.

Sorprenentment, dir-li al model que està bé dir "No ho sé" redueix la pressió social per exercir certesa. Els models reflecteixen la tasca. Si la tasca recompensa la integritat a tota costa, s'obté ficció amb format. Si la tasca recompensa la xerrada clara sobre les llacunes, s'obtenen menys mentides brillants. 

I sí, els seguiments importen. Les primeres respostes són esborranys. "Aquesta citació sembla falsa; elimina tot allò que no puguis verificar" és un segon missatge perfectament normal. Tracta el xat com si fos una edició, no com una màquina expenedora que et deu la veritat a la primera moneda.

Connexió a terra, seguiments i convivència amb incertesa

Aterrar significa vincular la resposta a alguna cosa fora de la improvisació del model: el document de polítiques enganxat, el full de càlcul, les notes de la reunió, una pàgina pública coneguda que comprovaràs tu mateix. Quan la resposta ha de romandre dins d'aquesta tanca, la invenció té menys marge per funcionar.

Els seguiments són la segona barrera. "D'on ha sortit aquest número?" "Quina part és inferència?" "Torna a escriure sense cap estudi amb nom". Cada pregunta és una petita auditoria. Suposo que aquesta és la manera adulta d'utilitzar aquestes eines: ni adoració, ni pànic, només auditories.

La incertesa no és un error en el vostre flux de treball. És el temps. Alguns dies, el model fa un resum del vostre propi text. Alguns dies inventa un subcomitè que mai es va reunir. La vostra feina és decidir quins resultats necessiten un impermeable. 

• Enganxa el material font quan importa la precisió.
• Demaneu etiquetes de confiança a nivell de reclamació.
• Mantingueu una persona informada de les decisions importants.
• Guarda la "llibertat creativa" per a tasques creatives, no per al compliment.

Què fer quan tens una al·lucinació a mig flux

No et precipitis. No renunciïs a l'eina per sempre com si t'hagués traït personalment, tot i que la necessitat pot ser aguda. Corregeix el fil i continua.

Un bucle de recuperació simple:

• Digueu-ho clarament: "Aquesta font sembla inventada. Elimineu les afirmacions no fonamentades."
• Torna a ancorar: enganxa el document, la cita o les dades reals.
• Reconstruir de manera restringida: demanar una secció corregida, no un assaig completament nou sense cap mena de poliment.
• Torneu a comprovar les vores afilades: noms, números, passos del procés.
• Decideix el nivell de confiança: company de pluja d'idees vs assistent d'esborrany vs "no per a aquest tema".

Captar una al·lucinació pot millorar la resta de la conversa, si enduriu les restriccions. El model no "se sent culpable", però les vostres instruccions més clares canvien allò per al qual optimitza. Esteu dirigint. Dirigiu més fort quan aparegui la inventiva. 

Escenaris quotidians on això importa discretament

Correus electrònics de treball: una "cronograma estàndard de la indústria" inventada pot establir expectatives que no pots complir. Escola i aprenentatge: una explicació falsa es pot quedar al teu cap abans que te n'adonis. Esborranys d'atenció al client: una norma de reemborsament inventada es converteix en una promesa. Escriptura creativa: inventa, aquest és el pati d'esbarjo.

La línia conduent és la conseqüència. Si les paraules incorrectes costen diners, confiança, notes o seguretat, la verificació no és una feina opcional. Si les paraules incorrectes només costen un encongiment d'espatlles, relaxa't. Combinar la precaució amb la conseqüència és l'habilitat adulta aquí, més que memoritzar la paraula "al·lucinació"

A més: els equips haurien de normalitzar "He verificat aquesta afirmació" de la mateixa manera que normalitzen "correcció ortogràfica aprovada". En cas contrari, un paràgraf polit es converteix en coneixement tribal de la nit al dia. Ostres.

Conclusions clau

Així doncs, la pregunta " Per què la IA de vegades s'inventa coses" es redueix a això: aquests sistemes prediuen un llenguatge plausible, omplen els buits amb la coincidència de patrons i sovint semblen segurs mentre ho fan. Aquesta combinació crea respostes incorrectes amb confiança, cites inventades i detalls ordenats que mai han passat.

No cal tenir por de l'eina. Cal tenir hàbits. Comprovar afirmacions concretes al descobert. Prohibir fonts inventades. Enganxar context concret. Pregunti per la incertesa. Utilitzar seguiments com a auditories. Reservar la generació despreocupada per a treballs creatius de baix risc.

La fluïdesa no és una referència de caràcter. Tracta-ho com un becari talentós que escriu ridículament ràpid, de vegades inventa una reunió que mai va tenir lloc i, tot i així, pot destacar quan està supervisat. Mantén la supervisió. Mantén l'enginy. Mantén l'escepticisme lleuger però amb els peus a terra. Així és com s'obté el costat positiu sense enviar ficció disfressada de fet.

Exemple pràctic: detectar cites inventades en un informe de recerca de la competència

Les al·lucinacions semblen abstractes fins que un paràgraf polit gairebé acaba a la baralla d'un client. Així és com un analista de màrqueting del Regne Unit va utilitzar els hàbits d'aquesta guia per deixar d'enviar ficció disfressada de recerca, sense abandonar el chatbot.

Escenari

En Sam té dues hores per redactar un resum d'una pàgina per a la competició per a un inici de vendes. La petició li és familiar: punts forts, senyals de preus i "unes quantes fonts creïbles". Com sempre, en Sam va escriure "resumeix el competidor X amb les fonts" i va obtenir un resum ordenat amb tres cites d'aspecte acadèmic i un percentatge de quota de mercat precís. Semblava breu. Era gairebé inventat. No es va poder trobar un títol. La xifra de quota de mercat no apareixia enlloc del lloc web del competidor.

En Sam no necessita un model que soni millor. En Sam necessita un flux de treball sòlid: enganxar notes font, prohibir fonts falses, forçar etiquetes d'incertesa, comprovar primer l'afirmació més nítida i després reconstruir només la secció trencada.

L'objectiu és un resum en què l'equip pugui confiar per als punts de discussió, no un rebut extret de memòria que només sembla un rebut.

Què necessita l'assistent

• El material original que ja té en Sam és: text de la pàgina d'inici, text de la pàgina de preus, dos tiquets d'assistència recents i notes d'una operació perduda
• Una regla estricta: feu servir només text enganxat per a afirmacions factuals; digueu "No ho sé" quan les notes siguin silencioses
• Prohibició de cites, citacions, URL i estadístiques inventades
• Una forma de sortida que separa conegut / inferit / conjectura
• És hora de fer una comprovació al·lucinatòria humana dels noms, números i qualsevol títol "d'origen" abans de compartir la baralla
• Permís per fer fins a tres preguntes aclaridores en comptes d'omplir buits

Exemple d'instrucció

Missatge 1 - informe fonamentat: Utilitzant només les notes que enganxo a continuació, esbossa un informe de vendes d'una pàgina per a la competència. Seccions: Què afirmen / De què es queixen els clients / Senyals de preus / Preguntes obertes. No inventeu cites, cometes, URL ni estadístiques. Si un fet no apareix a les notes, escriviu "desconegut" i enumereu-lo a Preguntes obertes. Etiqueteu cada vinyeta: conegut / inferit / conjectura. Anglès del Regne Unit. Sense preàmbul.

Missatge 2 - dubte aprovat: enumera totes les suposicions que has fet. Elimina qualsevol cosa etiquetada com a suposició, tret que puguis assenyalar una frase enganxada que la recolzi. Si ja has inventat una font, elimina-la i digues-ho.

Missatge 3: reconstruir de manera restringida: aquesta línia de quota de mercat no és compatible. Torneu a escriure només la secció de senyals de preus sense números, tret que apareguin a les meves notes. Conserveu les altres seccions.

Com provar-ho

• Executeu una pregunta flotant ("resumeu el competidor X amb tres fonts revisades per experts") i l'encàrrec fonamentat anterior. Compareu títols inventats i estadístiques falses.
• Primer cal comprovar l'afirmació més arriscada (un número o un estudi amb nom), no tota la pàgina.
• Pregunta: "De què estàs menys segur?" Una resposta contundent assenyala llacunes; una resposta insegura duplica la resposta.
• Cas límit: eliminar el preu de les notes enganxades i confirmar que l'esborrany diu desconegut en comptes d'inventar un preu de pla.
• Comprovacions d'acceptació abans de compartir: (1) cada vinyeta "coneguda" correspon a una línia enganxada, (2) zero cites fabricades, (3) preguntes obertes que enumeren les llacunes reals, (4) heu cercat vosaltres mateixos qualsevol títol restant, (5) no hi ha estadístiques exactes sense una nota al darrere.

Resultat

Resultat il·lustratiu (exemple d'estimació del flux de treball d'un analista amb un informe competidor, no un estudi publicat): En 8 tasques d'informe, el temps de treball des de "notes obertes" fins a "esborrany llest per a la comprovació humana de fets" va augmentar lleugerament, passant d'una mitjana d'uns 12 minuts (ficció polida d'un sol cop) a uns 15 minuts amb l'indicació fonamentada, però el risc de neteja i vergonya va disminuir. La verificació humana d'afirmacions sòlides va disminuir d'una mitjana d'uns 18 minuts (perseguint títols falsos i reescrivint) a uns 6 minuts quan les afirmacions estaven preetiquetades i les fonts inventades es van prohibir, de manera que el temps net va disminuir uns 9 minuts per informe, o uns 72 minuts a tot el conjunt. En una llista de comprovació d'acceptació (sense cites inventades, sense estadístiques no compatibles, etiquetes conegudes/inferides/d'endevinació presents, preguntes obertes que anomenen les llacunes), 7 de 8 esborranys fonamentats van ser aprovats en la primera revisió en comparació amb 2 de 8 esborranys d'un sol cop. Limitacions: mostra petita, un analista, un tipus d'informe; els competidors fàcils amb preus públics clars redueixen la bretxa; El "temps de verificació" incloïa les cerques web de títols sospitosos.

Per mesurar la teva pròpia versió: executa 5 resums amb el teu hàbit actual i 5 amb fonts enganxades + cites inventades prohibides + etiquetes de reclamació; registra el temps mitjà d'esborrany, el temps mitjà de verificació i la taxa d'aprovació de la llista de comprovació amb el denominador mostrat.

Què pot anar malament

• Biaix de fluïdesa: una gramàtica perfecta i vinyetes ben ordenades fan que et saltis la comprovació puntual.
• Cosplay de citacions: demanar "fonts" sense material enganxat convida a la forma d'erudició sense un registre coincident.
• Llistes massa completes: "Doneu-me deu estudis" recompensa el farciment quan només n'hi ha tres a les vostres notes.
• Reconstruir tot l'assaig: després d'una línia falsa, demana una reescriptura limitada d'aquesta secció, no una nova capa de poliment.
• Temes d'alt risc: la salut, el dret, les finances i el compliment normatiu necessiten portes humanes més fortes que un informe de vendes.
• Sense bucle humà: un esborrany etiquetat encara pot llegir malament una frase enganxada. En Sam encara té el botó de compartir.

Conclusió pràctica

La IA s'inventa coses perquè prediu un llenguatge plausible fins a les llacunes, no perquè vulgui enganyar-te. Tracta la fluïdesa com a estil, no com a prova. Enganxa la tanca, prohibeix les fonts falses, etiqueta la incertesa, revisa l'afirmació més nítida i corregeix el fil quan alguna cosa trontolla. Així és com mantens l'avantatge d'un company de redacció ràpid sense enviar una història segura que mai va passar.

Preguntes freqüents

Per què la IA de vegades s'inventa coses?

La majoria de models de xat són màquines de patrons: generen una resposta que s'ajusta a la forma d'una bona resposta, no a un armari d'arxiu verificat amb l'etiqueta Veritat. Els buits s'omplen amb allò que sona estadísticament correcte: una cita que sembla acadèmica, un número ordenat o un detall que s'adapta a l'època. Un text fluid és l'objectiu de la generació, de manera que "sona bé" pot superar "és correcte". És per això que les respostes inventades sovint arriben amb una gramàtica perfecta i vinyetes ordenades.

La confiança en la IA és el mateix que la precisió?

No. La confiança i la precisió són indicadors diferents: un pot estar alt mentre que l'altre és proper a zero. Els resultats per defecte sovint es llegeixen com una sessió informativa segura perquè la formació recompensa un poliment útil, no perquè totes les afirmacions fossin fonamentades. Tracteu la fraseologia assertiva com a estil, no com a prova. Si una resposta no té fonts verificables, no té incertesa i molts noms o números específics, alentiu el ritme.

Per què els chatbots inventen cites i fonts falses?

La forma de la cita és habitual en els textos d'entrenament, de manera que demanar "fonts" pot produir la forma d'estudi sense recuperar un registre real, com si es tractés d'un rebut de memòria. Els títols d'articles falsos, els noms de revistes, les URL i les cites atribuïdes sovint semblen prou professionals per enganyar els usuaris que busquen per sobre del text. Demaneu títols que pugueu cercar vosaltres mateixos; si no es pot trobar una font ràpidament, considereu que l'afirmació no té fonament.

Quan és més alt el risc d'invenció de la IA?

El risc augmenta per temes de nínxol, recents o molt específics, i quan es pressiona per obtenir xifres exactes, documents amb nom, dades internes privades o llargues llistes d'estudis revisats per experts. Les àrees d'alt risc inclouen la salut, el dret, les finances, el compliment normatiu, la seguretat, les persones amb nom i les estadístiques exactes. Fer pluja d'idees, esbossar, reescriure el propi esborrany i les edicions de to solen tenir un risc menor. Les respostes llargues i impressionants també poden semblar més segures del que són.

Com puc detectar respostes inventades per la IA sense comprovar cada paraula?

Primer, comproveu la part més aguda: el número, el nom, la política o la cita. Si això falla, poseu la resta en període de prova. Vigileu les contradiccions internes i els envasos "massa perfectes" sense advertències ni compromisos. Pregunteu de què està menys segur el model, comproveu noms i títols fora del xat i preferiu respostes lligades al text que heu enganxat per sobre de fets que suren lliurement.

Quins hàbits ràpids redueixen les al·lucinacions de la IA?

No es poden eliminar les al·lucinacions amb una frase màgica, però es pot reduir el radi de l'explosió. Es pot assignar coneixement a notes enganxades i dir "No ho sé" quan falti alguna cosa. Prohibir cites, cometes i URL inventades. Forçar etiquetes com ara conegut / inferit / endevina, demanar suposicions i preferir l'estructura d'afirmació/evidència. Dir al model que està bé dir "No ho sé" redueix la pressió per dur a terme una falsa certesa.

Què significa "grounding" quan s'utilitza la IA per a treballs factuals?

La connexió a terra vincula la resposta a alguna cosa fora de la improvisació del model: el vostre document de polítiques, full de càlcul, notes de reunió o una pàgina pública que reviseu vosaltres mateixos. Quan les respostes han de romandre dins d'aquesta tanca, la invenció té menys espai. Els seguiments actuen com una segona tanca: pregunteu d'on prové un número, quina part és inferència o reescriviu sense estudis amb nom. Mantingueu un humà informat de les decisions importants.

Què he de fer quan tinc una al·lucinació a mitja conversa?

Digueu-ho clarament, torneu a ancorar-vos amb el document o les dades reals i reconstruïu només la secció trencada en comptes de demanar un assaig completament nou i polit. Torneu a comprovar les vores nítides (noms, números, passos del procés) i, a continuació, decidiu si l'eina és un company de pluja d'idees, un assistent d'esborrany o "no és per a aquest tema". Unes restriccions més clares canvien allò per al que optimitza el model; dirigiu-vos més quan aparegui la inventiva.

Com puc aturar les cites inventades en un informe de recerca de la competència?

Enganxa les notes de font que ja tens, prohibeix les fonts falses i les estadístiques no compatibles i exigeix ​​etiquetes conegudes/inferides/de conjectures a més d'una llista de preguntes obertes. Comprova primer l'afirmació més arriscada, executa una passada de dubte que elimini les conjectures sense suport i reescriu només la secció trencada si un número no és compatible. L'acceptació significa que cada vinyeta "coneguda" es correspon amb una línia enganxada i qualsevol títol restant és cercat per un humà.

Quan encara està bé deixar que la IA inventi lliurement?

L'escriptura creativa i altres tasques de baix risc permeten inventar metàfores lliurement: aquest és el pati d'esbarjo. Relacioneu la precaució amb les conseqüències: si les paraules incorrectes costen diners, confiança, notes o seguretat, la verificació no és opcional. Si només costen una mica d'espatlles, relaxeu-vos. La fluïdesa no és una referència de caràcter; tracteu el model com un becari ràpid que encara necessita supervisió en el treball factual.

Referències

1. OpenAI - openai.com
2. Antròpic - anthropic.com
3. NIST - nist.gov
4. IBM - ibm.com
5. IA de Google - ai.google.dev
6. Google Cloud - Connexió a terra - docs.cloud.google.com