Resposta curta: No poseu mai contrasenyes, claus API, identificadors, registres bancaris o de salut, fitxers de clients d'acords de confidencialitat ni dades d'altres persones en un xat públic d'IA. Quan necessiteu ajuda, descriviu el problema amb marcadors de posició i fragments redactats: el model necessita la forma del problema, no els secrets que desbloquegen els sistemes reals.
Conclusions clau:
Els secrets es mantenen fora de línia: no enganxeu mai contrasenyes, tokens, galetes o frases inicials en un prompt.
Despullar-se de la identitat: Intercanviar noms, adreces i números d'identificació reals per rols i falsos.
Confidencialitat laboral: Mantingueu els esborranys d'acords de confidencialitat, els fitxers dels clients i els plans no publicats fora del xat del consumidor.
Límit de consentiment: No enganxeu les dades personals dels companys, clients o fills sense un bucle només humà.
Redactar primer: utilitzar marcadors de posició i fragments sanejats; rotar tot allò que ja hagis filtrat.
Què no hauries de posar MAI a la IA
Primer enganxem i després pensem. Un chatbot s'hi queda assegut com un pacient intern amb cafè il·limitat, així que sembla gairebé inofensiu llençar tot el problema enredat a la caixa. Un inici de sessió que no funcionarà. Una clàusula contractual que et fa retorçar l'estómac. Una captura de pantalla d'un tauler de control amb tots els noms encara visibles. L'eina és útil, l'atmosfera sembla privada i el teu cervell ho arxiva tranquil·lament al costat de "notes que vaig escriure per a mi mateix"
Aquesta és la trampa. 🧠 El xat no és un calaix tancat amb clau. És una conversa amb un sistema que emmagatzema, processa i de vegades entrena el que envies, depenent del producte, la configuració i si t'has adonat de la configuració. No sóc aquí per fer-te entrar en pànic i ficar-te en un búnquer. Sóc aquí amb un mapa pràctic del que MAI hauries de posar a la IA, a més dels hàbits poc vistosos però pràctics que encara et permeten obtenir respostes encertades.
Pensa-hi com si cridéssiu un secret en una cuina plena de gent. No tots els desconeguts escolten. Tot i això, alguns sí que ho faran. I la cuina guarda una gravació per raons que mai no són tan simples com les fa semblar el text de màrqueting.
Per què ho llencem tot al xat
Velocitat. Això és gairebé tot. Estàs encallat, l'error és lleig i enganxar tot el registre sembla més ràpid que desmuntar-lo. El context sembla una mena d'amabilitat amb el model. Més detall, millor ajuda; aquesta és la tradició popular, i és mig certa.
L'altra meitat és emocional. Un chatbot no aixeca ni una cella. No ho dirà al teu gerent. No xafardejarà durant el dinar. Així que ho tractem com un diari amb superpoders. Jo ho he fet. Probablement ho has fet tu. En el moment en què alguna cosa és convenient i alhora sense judicis, els nostres instints de privacitat fan una pausa per al te.
Aquí teniu la veritat lleugerament molesta: el model no necessita les vostres dades quotidianes per ajudar-vos. Necessita una forma del problema. Els noms, les fitxes, els números de compte i les cares de les captures de pantalla són guarnició. Una guarnició deliciosa. Encara guarnició.
- Enganxes perquè editar et sembla una feina extra.
- Enganxes perquè "només aquesta vegada" és un hàbit que porta una disfressa.
- Enganxes perquè la interfície sembla un missatge directe privat i es comporta com un arxivador.
Res d'això et fa imprudent. Et fa humà. La solució és una pausa de dos segons, no un trasplantament de personalitat.
Contrasenyes, claus API i secrets que haurien de romandre fora de línia 🔐
Si pot desbloquejar alguna cosa, no pertany a una pregunta. Contrasenyes. Codis d'un sol ús. Galetes de sessió. Claus SSH. Cadenes de connexió de base de dades. La clau API que et vas prometre a tu mateix que rotaries "aviat". Frases llavor de moneder. Certificats privats. La pregunta de recuperació que el teu banc encara considera intel·ligent.
Abans pensava en les claus com si fossin claus de casa en un ganxo al costat de la porta. Una metàfora simpàtica; es desfà immediatament, perquè una clau de casa obre una porta i una clau API pot obrir un magatzem, un compte de facturació i una pila de registres de clients que t'has oblidat que havies emmagatzemat. Còpia de seguretat: tracta els secrets com a radioactius. No poses coses radioactives a la premsa de sandvitxos, encara que la premsa de sandvitxos sigui molt bona amb els sandvitxos.
Un model no pot "mantenir això entre nosaltres" de la mateixa manera que ho pot fer un amic. Fins i tot si un venedor ofereix controls de memòria, fins i tot si desactiveu l'entrenament, el text encara viatja, es registra d'alguna manera i pot quedar a l'historial del xat fins que el busqueu. Assumeu que una còpia enganxada és una còpia que ja no controleu completament.
Què fer en comptes d'això
- Descriviu el secret per tipus, no per valor. "Una URL de Postgres amb una contrasenya" és suficient per a consells de depuració.
- Redacteu amb marcadors de posició obvis: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
- Rota qualsevol cosa que ja hagis filtrat. Fes-ho ara, no després de "veure si passa alguna cosa"
- Guarda les credencials reals en un gestor de contrasenyes o en una caixa forta de secrets; mai en un fil que puguis fer captures de pantalla més tard.
Si una eina et demana que enganxis una clau perquè es pugui "connectar per tu", això és una categoria de producte diferent. Es tracta d'una integració amb Access, no d'un assistent d'escriptura. Tracta-ho com si li donessis la teva insígnia a algú.
Identificadors personals i el rastre silenciós d'identitat 🪪
La informació identificable personal (PII) és la cosina poc atractiva de les contrasenyes. Números d'identitat nacional. Dades del passaport. Camps d'identitat relacionats amb la data. Adreces particulars. Números de telèfon. Identificadors d'empleats. Números d'estudiant. Noms legals complets combinats amb dates de naixement, noms d'escoles o clíniques mèdiques. Una peça sembla petita. Tres peces juntes formen un dossier.
La gent fa això quan vol que escriguin una carta, que es tradueixi un formulari o que es polisca un currículum. Objectius perfectament raonables. El model no necessita el codi postal real per redactar una queixa educada. Necessita el to, els fets que no identifiquen i el resultat que es vol.
Suposo que la part sorprenentment enganxosa són les combinacions "inofensives". Un càrrec únic més una ciutat més l'escola del fill més una malaltia rara. Això no ho posaríeu en un fulletó. Un xat no és un fulletó, però tampoc és una caixa forta.
- Intercanvia els noms reals per rols: "el responsable de contractació", "el meu metge de capçalera", "un inquilí"
- Generalitza les ubicacions: "una ciutat mitjana", no el carrer ni el codi del timbre.
- Deixeu anar números únics tret que la tasca sigui literalment sobre el format del número, en aquest cas feu servir un fals que sembli prou real.
L'anonimització no és un doctorat. És un hàbit de comprovar si un desconegut et pot identificar en una llista d'aquest paràgraf. Si ho pot fer, retalla-ho.
Confidencialitat laboral, acords de confidencialitat i tot allò que el teu cap rebutjaria 📎
Aquí és on la ajuda posa problemes a la gent. Enganxes un paquet de clients. Una guia de ruta no publicada. Un full de càlcul salarial. Codi font amb noms d'amfitrió interns. Un esborrany legal que encara està marcat com a confidencial. Notes de reunió amb noms de persones que encara no han estat informades. L'acord de confidencialitat que vas signar a corre-cuita perquè el cafè s'estava refredant.
Els chatbots no són els assessors de la teva empresa, i no són un banc de treball segur tret que la teva organització n'hagi defensat un de debò. Les eines per al consumidor estan dissenyades per a la comoditat. Les eines empresarials poden ser millors, amb controls de retenció i polítiques d'administració; tot i així, no són un motiu per enganxar les joies de la corona per un aprovat gramatical.
Una regla pràctica que tinc gravada al cap: si no ho posaríeu en un esborrany personal de Gmail, no ho poseu en un xat públic amb intel·ligència artificial. Si no ho diríeu en un xat compartit, igual. Les persones que van amb compte a Slack es converteixen en poetes de compartir massa en el moment que apareix un botó de generar.
Solucions alternatives més segures
- Descriviu el document: longitud, públic objectiu, els tres punts importants i el to que necessiteu.
- Enganxa un fragment sanejat. Treu noms, figures sensibles i qualsevol cosa per la qual un competidor xocaria amb les mans.
- Demana una estructura o un patró de reescriptura i, a continuació, aplica'l tu mateix al text real fora de línia.
- Feu servir una eina de treball aprovada si en teniu una i, tot i així, redacteu-la per defecte. La política és un terra, no un trampolí.
El codi és una variant especial d'això. Les URL internes, les capçaleres d'autenticació i els comentaris com ara "TODO: eliminar abans de l'adquisició" són petites etiquetes de regal. Simuleu les dades. Mantingueu la lògica. El model gestiona bé les dades fictícies; no necessita el vostre esquema de producció amb correus electrònics de clients reals encara imbricats en un dispositiu.
Salut, diners i detalls que no cridaries a través d'una cafeteria 💊
Les dades mèdiques i financeres semblen urgents, per això s'enganxen amb la mínima edició. Resultats d'anàlisi. Llistes de receptes. Identificadors d'assegurances. Extractes bancaris. Cartes fiscals. Informes de crèdit. Una foto d'una targeta "només els quatre últims dígits", que d'alguna manera inclou la resta de la targeta, la taula de la cuina i un tros de correu amb el nom d'una altra persona.
Pots fer preguntes excel·lents sense el registre en brut. "Explica què podria significar un marcador elevat en termes generals" és una consigna. "Aquí teniu el meu panell complet, la meva adreça, la meva clínica i el nom de soltera de la meva mare" és una biografia.
No dic que no parlis mai de salut o diners amb una model. Dic que tractis el chatbot com un desconegut llegit en un tren. Bo per emmarcar. Terrible com el teu comptable, el teu metge o el teu arxiu. I sí, sé que la metàfora del desconegut llegit té filtracions; els trens no guarden registres de xat. Aquesta és una mica la qüestió.
- Elimineu els números de compte, els codis de classificació, els IBAN i qualsevol cosa que sembli una credencial.
- Demana explicacions generals, llistes de control i preguntes per portar a un professional.
- No utilitzeu el xat com a arxivador per a declaracions "per poder consultar-les més tard". Així és com la retenció esdevé un problema.
Si una indicació et fa baixar la veu en un cafè, primer has de redactar-la. Aquesta prova és sorprenentment fiable i no costa res.
Les dades d'altres persones no són teves per enganxar-les 🚫
Aquesta s'omet perquè sembla que siguis el protagonista del xat. No ets l'única persona a la captura de pantalla. Correus electrònics de companys de feina. El document d'identitat d'un soci. La queixa d'un client amb el seu número de telèfon encara adjunt. Fotos de nens. Un fil de Slack que nomena qui gairebé l'acomiaden. Una transcripció de la gravació d'una trucada que l'altra persona no sabia que s'enviaria a una model.
El consentiment no viatja automàticament de "em van enviar un correu electrònic" a "una màquina pot emmagatzemar això". Fins i tot si la vostra intenció és amable (escriure una resposta més amable, resumir un fil confús), la càrrega útil en brut continua sent la seva vida, no el vostre paper de brot.
Una prova de foc lleugerament sarcàstica: si no reenviaries el mateix blob a una llista de correu de desconeguts "per obtenir comentaris", no tractis un chatbot com una llista de correu més petita amb millors modals.
- Resumeix altres persones amb les teves pròpies paraules.
- Substitueix els noms per rols i elimina les dades de contacte.
- Pregunta a la persona si la tasca és sensible; algunes coses haurien de romandre en un bucle només per a humans.
- No enganxeu mai les dades personals dels infants, els registres escolars o les fotos identificatives per a una generació "divertida".
Hi ha una capa legal aquí que no pretenc litigar amb la veu d'un blog. Les normes de privadesa, els deures laborals i els contractes amb els clients tenen opinions. L'hàbit pràctic és més senzill que la llei: per defecte, les dades d'altres persones es mantinguin fora del prompt.
El que MAI hauries de posar a la IA: una taula de riscos que pots posar a treballar
M'agraden les taules per a això perquè una llista de "mai" pot semblar moralista, i una quadrícula et permet veure l'intercanvi. Valoracions lleugerament opinatives, no un informe de laboratori.
| Tipus de dades | Nivell de risc | Per què és un problema | Alternativa més segura |
|---|---|---|---|
| Contrasenyes, claus API, tokens, frases llavor | Crític | Desbloquegen sistemes; una còpia que no pots recordar completament continua sent una còpia | Espais reservats més un gestor de secrets local; rotar si es filtren |
| Documents d'identitat governamentals, escanejos de passaports, números nacionals | Crític | Paquet inicial per a robatori d'identitat; difícil de "desfer de l'enviament" | Exemples falsos o preguntes només de format |
| Registres mèdics, receptes, identificacions d'assegurança | Alt | Íntim, amb un sentiment regulat i enganxós en la història | Símptomes o temes generals; mantingueu els identificadors fora de la pàgina |
| Extractes bancaris, documents fiscals, fotos de targetes | Alt | Exposició financera directa més informació personal identificable addicional als marges | Pregunta sobre els processos, no sobre xifres en brut lligades a tu |
| Fitxers de clients, esborranys d'acords de confidencialitat, plans no publicats | Alt | Potser estàs incomplint una promesa que ja has signat | Extractes sanejats; sol·licituds d'estructura; eines de treball aprovades |
| IPI d'un company o client, dades dels fills | Alt | No et correspon fer una donació a una model | Resums basats en rols; eliminar contactes i cares |
| Font interna amb noms d'amfitrió i correus electrònics reals | Mig-alt | Sembla que "només programar" fins que algú mapeja la teva xarxa | Dades falses, dominis falsos, comentaris suprimits |
| Captures de pantalla de taulers de control o safates d'entrada | Mig-alt | Passen de contraban noms, números i pestanyes obertes que has oblidat que hi eres | Retalla, desenfoca o torna a escriure el fragment rellevant |
| Històries personals vagues sense identificadors únics | Baix | Normalment bé; encara ometeu qualsevol cosa que no diríeu a un desconegut | Mantingueu-ho general; ometeu la combinació identificativa rara |
Si no recordes res més, recorda la columna esquerra. Aquest és el cor del que MAI hauries de posar a la IA quan tens pressa i el teu cervell vol enganxar l'univers.
Trampes de captures de pantalla i la sobrecompartició accidental 🖼️
Les captures de pantalla són la manera com la bona gent filtra informació. Vols mostrar un quadre de diàleg d'error. La captura inclou la barra de marcadors, una insígnia de Slack amb un nom, una URL amb un token, una finestra emergent de calendari, un reflex en una finestra de mode fosc que resulta ser un gestor de contrasenyes. He retallat una foto i encara no he vist el petit selector de comptes a la cantonada. És un gènere d'errors.
Les fotos de documents són pitjors, perquè les càmeres són generoses. Una taula, una pissarra blanca, una polsera d'hospital, una etiqueta d'enviament. Potser el model no "necessita" els píxels addicionals. Els píxels encara arriben.
Un simple ritual de captura de pantalla
- Retalla primer. Després torna a retallar. Després mira les vores com si et deguessin diners.
- Desenfoca noms, correus electrònics, avatars i qualsevol cadena que sembli un token.
- Prefereixo tornar a escriure l'error en comptes de capturar tot l'IDE.
- No pengeu una foto d'un carnet, passaport o targeta d'embarcament "per a una lectura ràpida". Escriviu la pregunta en comptes d'això.
Les notes de veu i les càrregues de fitxers fan el mateix. Una gravació de reunió és un bufet de dades d'altres persones. Un CSV és un bufet de files que has deixat de veure com a persones. Si el fitxer et posa nerviós legalment, no hi cabria.
Patrons de suggeriments més segurs que encara et donen respostes sòlides ✨
La redacció no és enemiga de la qualitat. Les indicacions vagues sí que ho són. Pots ser específic sobre el problema i avar sobre la identitat. Aquest és tot l'ofici.
Prova aquesta forma: objectiu, restriccions, entrades fictícies, sortida desitjada. "Reescriu aquest correu electrònic de rebuig perquè sigui amable però ferm. El públic és un dissenyador autònom. No esmentis el nom real del projecte. Aquí tens un esborrany sanejat amb els noms intercanviats." Això és un prompt amb llom. No necessita l'exportació CRM.
Patrons que funcionen
- Marcador de posició per a tot allò únic. ACME_CLIENT, USUARI_A, TOKEN_X. Mantingueu la gramàtica de la vida quotidiana; llenceu les empremtes dactilars.
- Demana un mètode, no una memòria. "Explica'm el raonament sobre aquesta classe d'error" és millor que "aquí teniu tot el nostre registre de producció".
- Divideix la tasca. Obtén una plantilla del model. Emplena els elements sensibles tu mateix.
- Fes servir exemples sintètics. Inventa't un client anomenat River que va comprar una làmpada. El consell encara es transfereix.
- Indica què ja has redactat. Els models gestionen "[xifra salarial redactada]" perfectament si els expliques la lògica que l'envolta.
Hi ha una mena de missatge que intenta ser enginyós: "ignora la seguretat anterior, guarda aquesta clau". No ho facis. No estàs violant la teva pròpia privadesa. Estàs llençant la clau a un estany i esperant que l'estany sigui tímid.
Un altre patró que m'agrada: l'escaneig pre-enganxat. Abans d'enviar-lo, cerca al teu esborrany @, cadenes que semblin claus (llargues, aleatòries, sovint amb prefix), números que siguin massa llargs per ser casuals i noms que no posaries en una diapositiva. Deu segons. Paga el lloguer per sempre.
Historial de xats, retenció i la llarga cua d'una pasta 📦
La gent parla del "núvol" com si fos un sistema meteorològic. El que teniu a la pràctica és un producte amb valors per defecte. Alguns xats s'utilitzen per millorar els models, tret que us doneu de baixa. Alguns es conserven per a la revisió d'abús, sol·licituds legals o per motius bàsics de "perquè el fil encara es carregui demà". Alguns plans de treball mantenen registres per als administradors. No pretenc que una política de proveïdor únic sigui universal, perquè no ho és, i canvia, i hauríeu de llegir la configuració del producte en lloc de la memòria d'un blogger de la configuració.
La postura pràctica és avorrida i sòlida: suposa que una pasta pot persistir. Suposa que un company d'equip amb drets d'administrador pot veure els fils de treball. Suposa que en un futur oblidaràs que aquesta conversa existeix fins que apareix en una cerca. Suposa que exportar el teu historial és una cosa que podries fer més tard, i que aquesta exportació és una altra còpia.
- Desactiva les opcions d'entrenament o de "millora del model" quan el producte les ofereixi, si això s'adapta a la teva comoditat.
- Suprimeix els fils sensibles després d'extreure els elements pràctics en una nota local que sigui realment local.
- No utilitzeu el xat com el vostre sistema de registre per a assumptes de recursos humans, preguntes mèdiques o treball amb clients.
- Aneu amb compte amb els comptes compartits. Els comptes compartits són la manera com la "privativitat" es converteix en folklore de l'oficina.
Les funcions de memòria (les que recorden la teva feina, el teu gos, el teu to preferit) són útils i una mica esgarrifoses. També són una raó per no ensenyar al sistema els teus identificadors reals "perquè pugui ser més personal". Personal és un estil. No és el teu número de la Seguretat Social.
Normes de treball quan el teu equip viu en chatbots 🏢
Les oficines són on l'hàbit de l'enganxament es torna industrial. Algú envia un CSV d'un client per "netejar les columnes". Algú altre envia un document d'estratègia per "fer-lo més impactant". Un becari benintencionat enganxa el canal d'incidències. Ningú és un dolent. Els incentius són tot velocitat i poliment.
Si dirigeixes un equip, escriu una regla curta i humana. No una política de 40 pàgines que ningú llegeixi. Alguna cosa així com: sense credencials, sense informació personal del client, sense números no publicats, sense esborranys legals, utilitza l'eina aprovada, redacta per defecte. A continuació, mostra un exemple d'una bona indicació sanejada perquè la gent no endevini.
- Anomena l'eina aprovada, si en tens una, i les no aprovades.
- Doneu una llista de comprovació de redacció que la gent pugui completar abans d'un monòleg.
- Assegura't de dir "gairebé ho enganxo" sense fer una investigació teatral.
- Recordeu a la gent que "la IA va dir que estava bé" no és un control.
Si no lideres un equip, encara pots ser la persona que enganxa un ximple. La cultura és contagiosa en ambdues direccions. Suposo que això sona seriós. També és com es mouen les normes; una persona deixa de llençar les claus i l'habitació es torna una mica menys desordenada.
El teatre de compres és una missió secundària que em saltaré. Comprar un embolcall "empresarial" no fa màgicament que tots els prompts siguin savis. Pot ajudar amb la retenció i l'accés. Els teus hàbits encara fan la feina pesada.
Ja has enganxat alguna cosa estranya, i ara què 🧯
Passa. Prem enviar i la teva ànima abandona el teu cos. No facis espirals. Fes una seqüència curta i lleugerament poc glamurosa.
- Deixa d'utilitzar aquest secret. Canvia la contrasenya, revoca la clau, invalida la sessió. Aquest és l'únic pas que tanca la porta per sempre.
- Suprimeix el xat si el producte t'ho permet i buida qualsevol butxaca "suprimida recentment" si en té una.
- Comproveu les aplicacions connectades i la memòria. Algunes eines guarden fragments en memòries o fitxers de projecte que heu oblidat que havíeu activat.
- Si es tractava de dades de treball, digueu-ho a la persona adequada. Seguretat, un gerent, un client potencial; qui sigui el propietari del radi de l'explosió. Descobrir-ho aviat és menys dolorós que descobrir-ho més tard.
- Vigileu els inicis de sessió inusuals als comptes relacionats. La rotació sense supervisió és mig treball.
Si eren dades d'una altra persona, també li deus una neteja i, depenent del desordre, un avís. Incòmode. Encara millor que esperar que l'univers sigui educat.
No intentis "sobreescriure" una filtració enganxant més explicacions. El context addicional és un text addicional. Surt del fil.
Posant-ho junts
La versió curta de "Què no hauries de posar MAI a la IA" no és una llista de renys. És una postura. Si desbloqueja un sistema, identifica una persona o et fa fer una ganyota en un cafè, es manté fora de la caixa. Tot i així, pots obtenir una gran ajuda. Només cal donar al model un esbós, no les claus de casa, l'historial mèdic ni el correu del veí.
Resum ràpid:
- Sense contrasenyes, claus, testimonis ni frases inicials. Rota si t'has equivocat.
- Sense documents d'identitat reals, dades financeres completes, registres mèdics en brut ni material d'acord de confidencialitat.
- Cap dada privada d'altres persones, especialment dels nens.
- Les captures de pantalla menteixen per inclusió; retalla-les amb sinceritat.
- Redactar, simular i demanar mètodes. Problema específic, etiquetes falses.
- Assumeix que l'historial perdura. Elimina, no arxivis els secrets en un chatbot.
- Els llocs de treball necessiten una norma curta i un bon exemple, no un ambient de privacitat informal.
Fes servir les eines. Són excel·lents en esborranys, depurant formes i dissuadint-te d'un error confús. Deixa de tractar el quadre de text com una caixa forta amb sentit de l'humor. És una batedora molt intel·ligent. Tot i així, no hauries de posar el teu passaport en una batedora. 🫡
Exemple pràctic: Creació d'un informe de depuració de redacció primer per a un petit equip d'enginyeria
Les normes de privadesa s'apliquen quan salven un dimarts normal, no quan sonen severes. A continuació, expliquem com un equip SaaS de cinc persones del Regne Unit va utilitzar els hàbits d'aquesta guia per deixar de descarregar credencials i informació personal dels clients en chatbots de consum, sense renunciar a l'ajuda de depuració.
Escenari
Els desenvolupadors i el suport comparteixen un hàbit dolorós: quan un error d'autenticació es veu lleig, algú enganxa tot el registre, una cadena de connexió de proves i una captura de pantalla del tauler de control d'administració "perquè el model tingui context". El trimestre passat, això incloïa una clau API amb aspecte en directe en un rastre de pila i un correu electrònic d'un client encara visible a la barra d'URL d'una captura de pantalla. Ningú volia fer mal. La velocitat va guanyar. La cuina va guardar una gravació.
No necessiten una lliçó. Necessiten unes instruccions repetibles: descriure el secret per tipus, redactar amb marcadors de posició, retallar captures de pantalla, demanar un mètode i no un record, i després aplicar la solució en sistemes en directe fora de línia. El xat de consum encara es guanya el seu lloc. Les claus de casa es queden fora de la batedora.
L'objectiu és la mateixa qualitat d'assessorament amb un escaneig previ a l'enganxament de dos segons i una breu regla d'equip que la gent seguirà.
Què necessita l'assistent
- Una forma de problema sanejada: classe d'error, aproximadament quan va començar, entorn (staging vs production) sense noms d'amfitrió que mapin la xarxa
- Només entrades fictícies: REDACTED_KEY, USER_TOKEN, customer@example.com, ID de sol·licitud falsos
- El que ja s'ha eliminat (indicat a la sol·licitud perquè el model no demani els valors reals)
- Resultat desitjat: causes probables, comprovacions a executar, un esquema de pegat - no "connectar amb la meva clau"
- Una persona que guarda les credencials en un gestor de contrasenyes o en una caixa forta de secrets
- Una regla d'equip d'una pàgina: sense credencials, sense informació personal del client, sense xifres no publicades, redacció per defecte
Exemple d'instrucció
Objectiu: Ajudar-me a depurar un error 401 intermitent a la nostra API de proves després d'una actualització de testimoni. No em demaneu que enganxi secrets.
Restriccions: Ja he redactat contrasenyes, claus API, tokens, galetes, noms d'amfitrió interns i correus electrònics de clients. Els marcadors de posició al registre signifiquen que els valors reals només existeixen a la meva màquina. Anglès del Regne Unit. Sense preàmbul.
Extracte fictici: La sol·licitud a https://api.example-staging.invalid/v1/session ha retornat un error 401. Autorització de capçalera: Portador REDACTED_KEY. El cos esmenta que USER_TOKEN ha caducat. Descripció de la captura de pantalla (no adjunta): només la barra d'errors; la barra de marcadors i el selector de comptes s'han retallat.
Tasca: Enumera les tres causes més probables d'aquesta classe d'error, les comprovacions que hauria d'executar localment i un esquema mínim del pegat. Si necessiteu més detalls, demaneu un tipus d'informació (per exemple, "configuració TTL del testimoni"), mai el secret en brut.
Sortida: Causes numerades, després una llista de comprovació i, finalment, "què no enganxar la propera vegada" en tres vinyetes.
Com provar-ho
- Compareu una còpia enganxada a l'antiga (registre complet + captura de pantalla) amb l'encàrrec redactat anterior sobre el mateix tipus d'incident. Compareu la qualitat de l'assessorament i si el model sol·licita secrets.
- Escaneig previ a l'enganxament: cerca a l'esborrany @, cadenes aleatòries llargues i números massa llargs per ser casuals abans d'enviar-lo.
- Cas límit: incloure una clau falsa que sembli genuïna i confirmar que la resposta encara funciona sense necessitar el valor real.
- Cas límit: rebutjar la càrrega d'una captura de pantalla; tornar a escriure només la línia d'error; confirmar que la llista de comprovació encara serveix.
- Comprovacions d'acceptació: (1) zero credencials al fil, (2) zero dades de contacte del client, (3) marcadors de posició declarats, (4) la sortida és un mètode/llista de comprovació, no un flux de "enganxa la clau", (5) si alguna cosa s'ha filtrat anteriorment, la rotació es va produir el mateix dia.
Resultat
Resultat il·lustratiu (estimació d'exemple per a un petit equip d'enginyeria/suport, no un estudi publicat): En 12 xats de depuració en quatre setmanes, el temps mitjà per obtenir una llista de verificació utilitzable va augmentar lleugerament d'uns 4 minuts (enganxar completament) a uns 6 minuts amb redacció: dos minuts addicionals per a l'escaneig previ a l'enganxar i els marcadors de posició. Els fils que contenien tipus de dades crítiques (claus, correus electrònics de clients, cadenes de connexió en brut) van caure de 9 de 12 xats a 1 de 12 (aquest es va capturar en revisió i es va rotar el mateix dia). En una llista de verificació d'higiene senzilla (sense secrets, sense informació personal del client, marcadors de posició declarats, retallats o sense captura de pantalla), 11 de 12 informes redactats es van aprovar en comparació amb 3 de 12 amb l'antic hàbit. Limitacions: mostra petita, un equip, temps autoinformat; els incidents més lleus necessiten menys redacció; "aprovat" va ser una revisió per parells del text de la sol·licitud, no una auditoria de laboratori dels registres dels proveïdors.
Per mesurar la vostra pròpia versió: mostreu 10 fils de depuració d'IA recents per a tipus de dades prohibits i, a continuació, mostreu-ne 10 després d'una regla i plantilla de redacció; l'informe compta amb denominadors, més la mitjana de minuts des de "encallat" fins a "llista de comprovació a la mà"
Què pot anar malament
- Contraban de captures de pantalla: l'error està bé; la barra d'URL encara conté un token. Retalla dues vegades i després comprova les vores.
- Claus "Només aquesta vegada": Una sola clau API filtrada pot obrir la facturació i els registres de clients. Rota immediatament; no esperis a "veure si passa alguna cosa".
- Dades d'altres persones: Una queixa d'un client amb un número de telèfon no és teva per donar-la a una model. Resumeix-ho amb les teves pròpies paraules.
- Xat com a caixa forta: Deixar secrets a l'historial crea una altra còpia. Suprimeix el fil després de moure els fragments que necessitis a una nota local.
- Teatre empresarial: una eina de treball aprovada ajuda amb la retenció; no fa que enganxar joies de la corona sigui intel·ligent.
- Saltar la rotació després d'un lliscament: Eliminar el xat sense revocar la clau deixa la porta oberta.
Conclusió pràctica
El que no hauries de posar mai a la IA és menys una llista de renys i més una postura: si desbloqueja un sistema, identifica una persona o et fa fer una ganyota en un cafè, es manté fora de la caixa. Dóna al model un esbós amb marcadors de posició, guarda les credencials en una caixa forta i pregunta pels mètodes que apliques fora de línia. Aquesta pausa de dos segons és com un becari servicial amb cafè infinit deixa de convertir-se en un arxivador per a les claus de casa teva.
Preguntes freqüents
Què no hauries de posar mai als chatbots d'IA?
Si desbloqueja un sistema, identifica una persona o et fa fer una ganyota en un cafè, no l'utilitzis. Això inclou contrasenyes, claus API, tokens, frases inicials, identificacions governamentals, registres mèdics i financers en brut, material d'acords de confidencialitat i dades privades d'altres persones, especialment nens. El xat no és un calaix tancat amb clau; el text es pot emmagatzemar, processar i, de vegades, utilitzar per a l'entrenament, depenent del producte i la configuració. Dóna al model un esbós amb marcadors de posició, no les claus de casa.
Per què la gent enganxa secrets a la IA fins i tot quan ho saben millor?
La velocitat fa la major part de la feina: un error lleig fa que tot el registre sembli més ràpid que desmuntar-lo. Els chatbots tampoc semblen jutjar, de manera que els instints de privadesa fan una pausa per prendre el te. El model normalment necessita la forma del problema, no noms, fitxes, números de compte o cares a les captures de pantalla: això són guarniments. Una pausa de dos segons és millor que un trasplantament de personalitat.
És segur enganxar contrasenyes o claus API a les eines d'estil ChatGPT?
No. Si pot desbloquejar alguna cosa, no pertany a un prompt: contrasenyes, codis d'un sol ús, galetes de sessió, claus SSH, cadenes de connexió, llavors de cartera o certificats privats. Un model no pot guardar un secret com un amic; el text encara viatja, es registra i pot quedar a l'historial. Descriviu el secret per tipus, utilitzeu marcadors de posició com ara REDACTED_KEY, gireu qualsevol cosa que ja s'hagi filtrat i guardeu les credencials reals en un gestor de contrasenyes o una caixa forta.
Quina informació personal he d'esborrar abans de demanar-ho?
La PII s'apila ràpidament: documents nacionals d'identitat, dades del passaport, adreces, números de telèfon, documents d'empleat o estudiant i noms complets combinats amb dates de naixement o clíniques. El model no necessita un codi postal real per redactar una carta: necessita un to, dades no identificatives i el resultat que es vol. Intercanvieu noms per funcions, generalitzeu ubicacions i elimineu números únics, tret que estigueu provant el format amb un exemple fals.
Puc enganxar fitxers de clients, acords de confidencialitat o codi intern en una eina d'IA de consum?
Tracta el xat del consumidor com un producte de conveniència, no com un assessor de l'empresa. Si no ho posaríeu en un esborrany personal de Gmail o ho diríeu en un servei de transport compartit, no ho poseu en un xat públic d'IA: presentacions de clients, fulls de ruta no publicats, fulls salarials, esborranys legals confidencials o fonts amb noms d'amfitrió interns. Descriviu el document, enganxeu-ne un extracte sanejat, demaneu una estructura que apliqueu fora de línia i utilitzeu una eina de treball aprovada si en teniu una mentre continueu redactant per defecte.
Com he de gestionar les dades de salut o financeres a les indicacions d'IA?
Feu preguntes excel·lents sense el registre en brut. Les explicacions generals són millors que enganxar panells de laboratori, llistes de receptes, identificacions d'assegurances, extractes bancaris o fotos de targetes que també capturen la taula de la cuina. Elimineu els números de compte i qualsevol cosa que sembli una credencial. Utilitzeu el xat per emmarcar i llistes de control per portar a un professional, no com a metge, comptable o arxivador per a extractes.
Per què són especialment arriscades les dades i les captures de pantalla d'altres persones?
No ets l'única persona que hi ha alguna cosa a enganxar: els correus electrònics dels companys, els números de telèfon dels clients, les fotos dels nens o les transcripcions de trucades poden acabar en un sistema sense el seu consentiment. Resumeix amb les teves pròpies paraules, substitueix els noms per rols i no enganxa mai les dades identificatives dels nens per generar "diversió". Les captures de pantalla introdueixen barres de marcadors, tokens d'URL, noms de Slack i pestanyes obertes: retalla dues vegades, desenfoca els identificadors o torna a escriure l'error en lloc de penjar passaports o targetes.
Quins patrons de suggeriments més segurs encara obtenen respostes sòlides d'IA?
Sigues específic sobre el problema i avar amb la identitat: objectiu, restriccions, entrades fictícies, sortida desitjada. Etiquetes úniques amb marcadors de posició, demana un mètode en lloc d'un registre de producció complet, divideix la tasca de manera que omplis els bits sensibles tu mateix i utilitza exemples sintètics. Executa una cerca prèvia a l'enganxament per detectar signes @, cadenes llargues aleatòries semblants a claus, números massa grans i noms que no posaries en una diapositiva. Deu segons paguen el lloguer per sempre.
Què passa si ja he enganxat alguna cosa incòmoda en un xat d'IA?
Primer deixa de fer servir aquest secret: canvia la contrasenya, revoca la clau, invalida la sessió. Suprimeix el xat si el producte ho permet, comprova els records o els fitxers del projecte, digues a la persona adequada si eren dades de treball i vigila els inicis de sessió inusuals. Si eren dades d'una altra persona, neteja-ho i avisa quan calgui. No "sobreescriguis" una filtració amb més explicacions; el context addicional és un text addicional.
Com pot un equip petit deixar de bolcar credencials a la IA per a la depuració?
Feu servir unes instruccions centrades en la redacció: descriviu els secrets per tipus, registres de plagi amb REDACTED_KEY i exemples de correus electrònics, indiqueu què es va eliminar i pregunteu per les causes probables a més d'una llista de comprovació (no "connecteu amb la meva clau"). Afegiu una regla humana breu (sense credencials, sense informació personal del client, sense xifres no publicades, redacció per defecte) i mostreu un bon exemple sanejat. Guardeu les credencials reals en una caixa forta i apliqueu les correccions fora de línia després que el model suggereixi un mètode.
Referències
- NCSC — ncsc.gov.uk
- OpenAI — ajuda.openai.com
- OpenAI — openai.com
- Claude — privacy.claude.com
- Google Workspace — knowledge.workspace.google.com
Articles que potser t'agradaria llegir després d'aquest:
🔗 Eines de seguretat d'IA principals
Descobreix potents plataformes de seguretat d'IA que detecten i mitiguen les amenaces cibernètiques.
🔗 Per què la IA de vegades s'inventa coses
Entén per què la IA té al·lucinacions i aprèn a reduir-ne els riscos.
🔗 Com automatitzar tasques amb IA
Implementa fluxos de treball d'automatització segurs afegint supervisió humana i regles estrictes.
🔗 Què és la tecnologia d'IA?
Explora els fonaments de la intel·ligència artificial i els seus reptes d'implementació més comuns.