OpenAI/Hugging Face 黑客事件中智能体行为、推理与协作的简要独立调查(160分钟阅读)

TLDR AI 新闻

摘要

一项独立调查考察了涉及OpenAI和Hugging Face的黑客事件期间AI智能体的行为、推理和协作。

OpenAI的智能体对Hugging Face的攻击异常复杂。本文探讨了Hugging Face攻击,并调查了相关智能体采取的关键行动、智能体如何在留言板上协作、智能体攻击的推理,以及智能体研究篡改自身记录的情况。
查看原文
查看缓存全文

缓存时间: 2026/08/27 15:51

来源: https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/ OpenAI与Hugging Face事件调查报告 �V�n�0��S�n^�\.�4� ��m�v��t�$�;�N \!��O±Ӓv�&\!�VUNb����w�3z������V�ZO�Q\|2 �s4\|2\`lT\!��^k �d�c�6�o Y�А�1�%r��\_Z5�т��n ����s��j��LI�c�\)��\-��㗜�q�g �u��H��~����ɱSX�\{� Rc���Uk�\-���~���X�LY����F���� ��0��sQ�� �\)\|�e�C\[���=Hd����T\)�\`�N\.�GY'y�TXX44h�d���\|��\.i��Z���D�M�G�G6���� kس�仿�b�hs�myfi�fm4j��� �����\.b�,��9\]\\^\\��OON;C�3���ȧMW\_�e6\`ொ��AP\-��\_\- yc��n��7E ���7�"���ōw:�3��\>���4ەN\}�Y4��\{z\|�E"�V1�c�������3\|XwZq�G���&��<���g�a��� ��a��������m��0�� cS�\>xZ;I;ς�Ou���w;m�\.9·5�o\}���\{דl�5�$x\>XS�� ֘d�\)���Qv=\`7�׳���3@�Z\(�n\\�\]6Y\!���\!\(S\`�M�$�����\_�r{e�� Cs��bu�Q���G�\)� �uo�T����&\(��s���IVDAv�I��\>\)�k\{\_��I��S^J����ۦ4�Xr�e�� wE\>���oMr�� �E e\|۬x�i��5���G�� z\#��WUn��ް�hyO\_\>mf@9���3v�,E5 Z��;ǟ��G�^���B�Os�Ic�Nþ��a2fK\|��Ҭ�\`~�\_���5���?������<\.n�ӢXI��K\\0/� �R�����S�}����n����������Y�O\>�Y&8����K�i�i0~��a\>�5���� ����ls<�@C �\_f����5O�����:����L��a���g^���:^\-2�K8��B�ِ���p �Z?��ʏaq���qS�f����S,$�M�����Vpw�"\`Q16\`Dw���i� ��I4�H��� �OtWZ,��é��\{0/v&īFz�g~��S^@��^� ;\|������ZH\[3p\.� �7A �p\_��CɁx��߽��%��X،%\|\`��a��=�����u������~�ҿ':�f�BG�Zz��y\}��chpG0��:\[Wk\+�z1���E@�s8cQ5����\|���6g��9����\#sd�F���'�f�M��\[X~M�������s�ŗY��� �8\>9��ӣ���tt<<3���xx��Nφ'\(=;�O�u@�lT���C�������ᅹD�ftlx: �\.v\(�f\#����zpHo�vA~ji����\}H�jw,����&L� ���t^�=6���^ܴ\)z\>�3�%ۿv���V��O���g��Hbq"~�����Fw��?�w<�?\#ٻ����O�P0m\>�����q����^�kw\.�g��z�3ؽ8ͦ�z��zo�7��5�M<^0�hJ����s/��L˪ǧD�5Ζo\-v\|��u�Y dv�J�⹫=l6͉��������;p����Ά�΀Ά������9\}1h;�������\)�ֿ�~�<��\]\\���I\}�D<1���7��K�������'S��Mԅ�z5pd/0�1 ���Jg��\_eq��6@\`��g�y��L��:�J<���;�\.Ox�Z\>�M�Qg�q��J��e��Ku꾁¤�겿=��=%��Y'4Zf�,�� �ÁY�wI\.����Sl���C\.�q˼��ʣ%v� �lju���f��ӛθ����ҝ�r���s\>���u\\H7E���c\#���Ԋ�\(���\\�߱ �G I����\*Զ�4\-\}xD�g�І�th5V6ؙ�\\豾���z;��7�z\{Z��b�cRm׻m�"����/��,\>lv�G;9\(�5۹H,\_��ɗ��YD��ƭ=wk\` k��uOO\-6�IQ\* TV��\_t��n'ZLZ��\] �<\|��7\_~��?�y����C\\x ���=����^nm�7��\-n\(&$aYڭ9�3e��\{n\}��\(\\\_E\[���yx��o%Q̥J�ϝ˯�dX����9\>կ�����������1;��E��5:\(����śOvem ���jQ���VT�wg\{\>S\*\}��5d�YpL���/����^������f��^�I�v,W�R\]�yh�a\+lۂ�ׇ��ޚϛ�1�zyk���ۢ@b �j�N y���%e��O����T��=s\{嶌Wki �Zs\_e0i\-~pC5ѡ\}a\{lA��'E^\>'o���r��x�FkAN�6; h�N~j\_���%k��\}I�����e"\!����l����9��\` b\]z��X^J����N�i\)����=fKA��K��tu��ӭ9 l\-L���7����K��oX���Z7�2۬ݑw\_�<���<���V������7� �m��\]�u��o���t���Jf����c�\[�Ȓx&�\(��R\]~ ~�2�sc�e?��Ma��\]��\\����~ֺ�^��G\]\_;0\!u\_���u٦7� U�����d\\B�͋���?���zQ���Ҏd�aݺ̦A����\}����\#\_�m�$b\]/�j��� ��ݔ��������es��rYli"�j8�V��2�� ����β\+3 ��S\[%7��gNb\}�We�E�u����"\#����6̟��x�����Ҽv\(\) �lZ1;Gq�xʈHDfe&\[�Y@\+���r\|��� �GĄ���U��� VY0xr`n\|����v\-\`� sc�IRE�C<A�eؾ��O~���\`��ۧ\|:��o\\�j����z��\*Fg����\`���<PL�e22ٚh\`���YƸ��\)�5����,\+s��0k2��C6�,����=s�ei�վXQ��0i �\{�e\`N3F���\(��C��C�W����0̳IV��F���\*��dg�����x���LJ\{\!h��䐬7Wq���L���\|��ygG�o\>m;j������i��y���rS��iW�����J�T���\!�����x��D�Z��\*ug�Dv���eh\>C'Y����71�e��H\}V���xN��΢�2sll\*\(�ySrj/곎�=ݻ�����=O⫫��B��m� �v��=\]\-��7�wf�ԟ���V�g����=ʆԇL�y��s���XI �R\|SZy��\\\*I�Xee$&I\!��;\#�Nb��M3�AgnJ^%v �,�9��eZ·���\+pma'x�� �x�lU8'?B�yV�m �\}�Á\>\\ή�ǃ2NfON��\)h�2 DFh���w@q\{I5\}����d�ZuX ���\(��� \>\(��@nU�YsWQ�\{����\+R�j^g\+;S=&F��uM2Jb\!���Wk�Ҝ~u�n���\)~�Mo�4L?\(���=0$� 5=��\[p��� JU���=K����'x��\*��I����\\��Ei�ci�������\(䌝�dZT��������x\.\}��Z�hPqS�Y8�Rx'ou��;��,\#i6�ͧa1z�������1���T8�h5J���ʘ�\[W��,Ġ�DOE\#�Oiʊ6\\��5o�u����Ѳ�ݒ\_C�����wD6Z�� �a\)��nL&S\(J9�ax�rn��Y��� ֶ\+s�ˮXj�&��K'\>Tx���r:mu\>\-��pW�hxqG��s��^B 2���Y1O�BtH��N9�:�����7 GC=@�Ϋz��z=f\]H�̒\>\*�b �z����\-��T��? �8:a�dͱ�w�o�w×�������KqoB��j� �t\-:ę\.̌E35I�H����9\}7�0A\[\[ݾ A����"0t�Ӥ\*Ш^b���\{6��υ��y�§�eu6�y�,\]�� ��Y�p\!n����֐�� �e&zɾ\>5,5�b3� jHK,u��� &������l�k@w�K��������?O�;s3�Y\|﫦\)S�;��G6GX�Ǥ7f��Bz����/\`\.^W���\` �:k� t\-V6���D�w�aL '�O\{� hJ��sWn��\>mĆ4� ؈?� "~����������l���pS\{% ɶ�qǝ�;~��\{��\}\*������ ����=׺c\(F ���ͭ�녅�9t� ׋ޯ����e\[��YI6KdH0Q�WӒ�\}D@dmoI$۾������ˋ���/�����?�������g\`�c����\>J�k��b \\��l��ڈؙC5z\`L�P�nڻ����VW2�FC�Y�g���A!j ���b��0S,9\)B��يo Ĵ$���� RS=��k�MN:lr\(69i��򫆉$\`��e\\T^Y����Ux���������蒷�=M<������0��� A�kT��G��;G��C�Xr^��B��B��烰ئS;\(�� ��i���kf���2�j\+ɰԆ��t d��p��^��"��"Q�T������T�K�G\{�F" �����<ʅ�Dׇl \)���g��R迊��3�ޒߓoB ��δCvx������h������9�I YRoP2��\]tS�K\\li'�h�jK�p^ݝUjv��y�e�VMbO��J�� %�Ţ��������\`���spk��i��aЊ\)H��\.ةL \|�\`���۽e�" y&��e�,J���T7P&��Bq�e��J��Hߖ��=Gp"kȉ8tѮ�jEY�o; T �м���Q�kX?\!\-2e\!kN��r\{����ůj�Őʮ�f~\}�;��@uccv��@\|FV/y0$E,3I��\\lWAA�u{7�����AV2� C��\#HM3q��N\[Ų��4� �U��3ow =��6F6VhVA\__4�i�v\-m��ŷ� ́Iqx\|~t6��\.����lW2� �ӒA����^�\)�\)� ���2\+rA�����XÉ4z\!\]���Za'��8�zmX2e\#��"yl\!���Z=qx^�RƉe@��\)n8C%pUI8@6\[@&\*�O,h㰃2r&p3%�� �: ��2t\+3�l;Xe���H\]!pJ�� ��e\\0����Eg��҂ �<�z�m\}� "��I�LT��Zj0�� y\[h1&d�r����BEVSB�y$\.Y6�h��,\*KpB\.玽�ci~\`0\`\)M��Q۴��Y��� �D� S?eTTَm���Xc��p ��~\!n��U\}z�� ��H\#֜Qk��Ma�� �t��d�c8z��H# H4\.\+P�gm���Y\]���8\+��\`<�l���:��ム��\_�� �\[Ӷ\[%a ��\]�ݚb0��R�TFO���F`t�b\+nE����kI���K7��y���o$^٪��N\>�ΰה �"\]����gMa��S��kQO@%T����b79'i;�\)���ͼ\)l\*���M MX:7��m��u��j��gߝ��xM2\{8�3\`R��P��$㷆\}��gr�EJ���^T����Jqy���R@ �5��韀H���8�I��\`\{P��m��2\*�\-%��� ��B�Hd � H��\+BbT���ؔ_RENDERD\]y$\.�X�w��\}��Fy� $�\[x������j\*M:kZ��m����Qhߊz~��8\]gSW'ۃω5��\+��Ҳ��<�Q ,96��Dw��4�� \{G"iVzj9/\*1\(`Ȧm��i��<Y\)e:y\|ua\>;��\)f; H��6\_ ���Ta�=&��\`X���n��#@\(,X��� �nv,3x���qh���l��\!H;���\(2\]����kv\`՘k��%a��\`��Y��� \.�� �&��W�CS�S10�0\+�����8\(N8"Y� �v����7� o��B��\}5��\{���0r,o\{ c�Pc��qO ��p�E7��E ��\\ \+�f��\`l��qz\[C�Z0����t��2\#��fF�5$x1:����O��5��B䚯��Q:\[&$i�M:諵�m7��&��̶�qVQ\_���4�YvAU3^H��\{x�ce\_��j��=u��V��a��p��:L���$ �3,�k���/add������V�3U4G�6F���\`Θ��KTL٩\\�u�uoPY,�����i\-�:�����շ���N;�� ?@\.:M\.C<��9����u Y@��\#��Kq�lPU2����\+���:�>4E,14<7Ѝ\)yCU���?�Ҏ\)~\{��\[\.���Tɪ���l2;?ZR�� \[A��l\*/֘ԙ\|=\#n��k�ArT�S��@ε�� �2h���\_u\]P۳G9Y`x�fEJ4c��s��pBB�M �\+P0Aٰ\>J� }V�I��W2&8�ξ���rX ���C�f"eȮ:� ���?\{?�I:��ɳV�������y��㡘�ZM�SwтKfD0���2DJ93F\|��2��";�ڧ�P\[S5<ֳ��Vn2ĭ���K��繇51��͠�^s���XG\[��\-�О�Dʘ��t� v���Iu��f~l"�r���K,\#N\+n��,�Х\*Ot^V�1<����w8ɛ�j��<��\!Xm^J9� %Lf�2����Wջ�P\+xX\}\-���������Ưr\!��P;\-arS"���P8��m\-��\\��������Cu��w颟A�Ι7#C5�8����㩷��\\<\_$v�Za\+Ko\\�\(��0D?�əFR\*;\_CD��:< O���&\]E\]��8 ���y�nc~F��M����\)��r�M�I藭$t��<~\>\\Dɨ�Z^\{j�q;�������44����7����2rDFl'x�x��pұ�М��;�Bu%'T 9�SNv��R��%bެ"����lxn^g����m��3qQ\*c��J郎\-=����G��s/:V:6D;X����Ͼ\`@6m���u��oD`b��@SE\{����l��ǁ:ъrV0:Uc��a\)\*����jBV5d�� L����\_���x3ŪD7�b�r����Q����U:V,���m\.UdЃ\-x����Y\+b5H���eB2B\!\(b6uL/u4K\{���9DӖ\+����z?\*u����� F��2p$�� O\\n���&%9w��e����"G�Wi����z��\{��yzՙų�,=jϺ��\{S\.t~t��׷��Y�����k��Q��0��w\|Y�U���R=ȋc�\)��������7P�g����g�ѱ����\)Y�� ��<\*E��m��g\+��s\-0��c��eI?:�֫ҮGp��giIWRGM@\[���񊛼�lQ���'F��M�k;���xc���\(��P�������O^���۷�8��\*n��\}tԭ�>z\\���'?�ȵ���t~sߣvG;u�,L\+E��� \`ИԞ\[K;\{�RD7ӝ���\_W=jU`���H��OKv��;V�Wz<ک=q��\_f8s��W��/�������D!HD\*\.������������F��T1\+5�G\]Jcr`��":�\_���� N=\_��m:&���D1Z��q�� Gp ��w7m=z\\z'\]2'���\.k��g0���\{Oqk!\!\]\_˄�W�\[2 \*\(���h����E��\_יHW a:��\+�������\]mO0\+ȤQ�e\]% M%\) Mө��M%\-������� �Ri�W���/���\*\[��\#30��T%S�\[��TVLz��B�� ��\[����H��7k��wͨŐ,�K Х\_M���|\*��t�~R��k"J0�� ���N���J\_\*a/g��o���d\_����oH\{Ql7r��æ��h~/V2\(����\*q\)$Q@E\[��B2$YT���Rm��,�^ \<\-���a��H�M\\MM����;���7���Y����\!2q ��\!3��3D\.��d���AJ"/^w7���\)M,yL���؜��Vx����t\-�����kj�o6j\}~1 ̧���q�ʗ��5\.7 a\{$G����P$Ox\!\.r5P��sR&���O"uY���9�Vž|\{���תQ!��Y|\{���?��n6V|���I\`n:��n���j9 �\#IB2����\-X� v���0=\{� cI��9^��w9|\`뚃5�Ɖ����\`Ȇ\{r\.P Z���F18��\{\\{i�ۇ� �����%/� \>\}ʁxMU$1\)��O� ��0~��\*��jmҰ��a��S��Kl|x�H�H���?Z��\+��ej��\|E$����B� ���?���K�T\\A~5@g\+����hG��x��\_����\+,��\{��\}1����ơp���v7\`3?\-CW����CDN���^\|�?iR1QmU��Z�Ev����b昈���&\*L������ 1ܡ��L"V� t��f����iх�D��� #M8���w����=����\]n��B��rH�N\*\*T�MRv\`\)C#rLNLrPP��K��\-��\\��g��9��R\]@/mL 93Ͼ����;\|I9E�u9���o\|��rA�y��8ޞ�P���n~M8@8��N �Ml'j�� Rp\{=ȓh��\\g��z\_Vy��b�ǖ,TeO��m%V��� ��3\*zB���c\_���G"^��p���ڠ\[\}m\` l��&���>n���d��E<\)敧�\`�������$,78чV&��^,YSF����jr����\\3���"e0)t$LN gd�W?S\>y;9����EF"nr&Q\[��\_V��K@;+\%��Y� q3 8(H\]L�����'���˩qq"\.EBLxx8��qHJ���VF2ͪi��s�B���&,r���xvv~=L���L"���\(G����mT,R��\[\-\{\`��b�W�e% r�ׂ&,I~���>l\.eA:���=����9xh\.%���6L,m��DZ1���4ʧ���M��Ɉ���3��U1��5\+@'WǏM\[vGq�r��M@6��%��������O��0e����\*;W9ƿC^w6��\!\(��xۺ��RGc$H��w6{��87��ҦQ:\!yc D\-7i����J�e=��\!L۟\|i뒽����{ژ��������aB0\*��hL��z���$H\+��$^����k�k�iEEw������욕�'Q��2���,\_KAa ܛj���Bu�Hi��Mv�8�gUҐ ��"\_}ք;\.\.\_~y~���o\.ξ�\{�K������U��Uuj�HT��\]\+Nw���B���iTIV�JA�oM��5@\{Y/;%1f��HV�MK��h'أ\}&\>��Z�Ti8���Cϯ�u����N\#>$ y<~T71�B\]wA���g��x#2��\-���p��#v��ہ`t<��?=�xKݻ,\#��=����\\\-^,�lVu?�ݦw\*L/f\},־�I���"d���Y\>\)85Ӈ�0:U<���$bz��f=1f���C���\*m��cCm����4mvs��sА����\)89����X\*��~T΢ά\}K9���;ehv���ӆm\*|ўq��;v\-Wy��l����g$y='�;��\>d1����sP5\\x��\`Exi�I��K���u����Z��\\@/d�Naz�Q�� ��øS!��輂"8����wޙQ1��Y��$[:f��p\(Qt��W��CZ�CK��h\[jږe��woF"f2nZ&e6R��S���NB����p7\!��\)��v\+Gࢄ��\-3L�a\{\*thxKJ�Pī`ZnT��0N��j�x�p����{0W0,W��p!��ݽ��K���iU����rC\-5 \)ގZ�>\#J��mX��W����6;#FJ\*��b{" Ԁ,\*\`dC��Eh4У4�������#L��n5QR0H\_K���4E��~p��.\.�A����\_���@GQ3��\|����o����ȏ�l:��5��i0L��f�P�҅����\*Q���\\e5\.fn�T&P\_J:��/OV8dN?ĘX� ѓ�m��\*?eC��\|f���\\ذ�qN�y�O\-\|o~���\{fzꙶinr��M��Oh��2q?\-���a���ǽ����~'���\_c����\}��\[q���\#d{cdn�w���T\>���gr܄VzB��v��\[x�l����s\[��;~�Н�\*~\\>�������,T�T�L\[W��,�s����q\[S�x릐�cˆ��l�I��&A�H��\`��,Ǥm#d\}оh:sO"c�ȃW��u�lͷ\]q\|��\-SK���r��\>��ߨ'����k~A?����Wn\_qi�x\]���N��xtꍠ����/!M�\_R���ؼ,Vm\_��Y��p6F�9a;w\[\[�$\_��mg8\+��gw7?h��srh��S&y���//O72x����C6X~\\\.4���U4����a̗\.<����\_��bC{\-��J��Yto'&óO�nO��n��p`t���\{~x��x�ܚgy���Y���\+\|����$J3��|B��R����L\]���'wN\|����"BR��?j#��ڭ� ԝGbZޱRSۣZ������>\]b?\_}\`\_\)r��̩/O\>5&��2Ꮧ�7���\`̱+\>:\>��\[$�ເ3�8GM^Q�Q��\[E����&��0NvN�FeH<����\{��\!\(Z���Qp�ŃU0v����I�䨷��T����1'^�Ε�Bq���lH\>7��\(l93\\<Ӳ̥6\\�;Kz%X\)\*ܔ�V}t\{��N��\{h�s7�����J�k\]��\-��v:\)H\+����CQ�o1����2B\!/s%P���'v�F����R�y����"�����H��^\`���r��#���磻9���7�9��W����10�HN�8��r3nr��\.ʐTx���M:p\(m��IWE7�ۀWX,��m���&UvS���戴S~^<����hۇٴ�\`ƩR,$���?\`B2���Gw��D\+W;0��~"lQ^!\{��\|aWU���tf�ځ�he�e��\\,��\\t\!�QD���2�Ed\>ṿx��g�ԅ����?��n���Zt��^\\��ڰd��I3�ƩO�R�l�u'�ΗK�ǝZ��H\.M'/\*%\(3\+ژ'gvr�Me�����MNk���H/;\[U�8��������<@еa���6иD`���ݱ4���\-B�N<\}GOA��ZP��33�gX2B"f8@oS�W3V���S��p,'wΘqK����X:��9��\+K=���P3G����FGˇ�s�Ѥ���ܔ�M�Ҫ�}\_���8��?�g�������\]���C'�P\+Ԓ���;jDqOv\*H��\(����Fڅ\-ܸK\)ɦ��Z��i���O����V�O\[��������"uc��EHeA��?#O@��T��I9H\(ˋW�ob��5}��\)��4"��\{TYh�MYh��ݏ�jL���XFf���d��U!vBpz�HZ��^h��m�u<\)'oƈ�&\+z,�K3��H����jے�y�i��߄R=;,x�N^Cv��$\)A�ZD��n��`R��IV\-��8'7Lh\_��\|���p���5\{$J\>��Y���R4w<���زQ����$��Fm\{؟�ܸ��Vi��w�I�zuz��O��m\-���f�A�qSO� �����y�z,\-b�M����a��c��ʍ��\!���wN\]ȭ��tDb��l騽U�F@å\>\>F��@qK�;�<��zxJ��Y1^L\-��E\+@hx\(�;��s"^\`\>4GrU��\)/kH������"%\`��Y\-���<ms���C���%aJ\{v�� ��P��o�y���:qnѻ���v?\[ɛ�r24qO��������qzq��V��S#\#/3\}6Lpu bQ/~wLǃl25��Ά��lѰ9/\`2r\]QYh���<b< '��G���q�;=k'A���� RDaL\\���;C\(\_a8��uZo#'V��vO���C\[7HF��qdp:н�j#5ĸ��\[z���':X3�=����%R\\qZQ7mZG���L"B\)\[.¬����c��<\[R��٣��#@Q$":\-��\_���­������1�Tw\>��+\`����O\+�����rY�rXg�v'2\)GX\.��֐6jh\.Y��̝m�i���h�c�yg���y@,ٽ�n#5��\-B\_a1����m�Yn\}��BN�o�� ����Wn���O�7\(����ΐd��&J�q҄Kz5Ϋ��3�j@"v��F�w?��K��Y\[Iaҳ��Sty���$U\*fz1KNcJVa/W�L����&���u���?,\-Z\_ܱe�sj��������"O"2z\\\*t?A9/\)���w0Y�MȊ\|SyX����W1�SLO��eJ\_Hձ\\EF\+wH�������nKc����C֑�Ȩ\_Y����K��5]��uDdpېY����m�HTkMkhe�Bq>i��m,\.=K�K髦����Yp~A��>\>���\\����k���xZ��D|6+F\)\|^aZ$J�z�kj�a8\*��X����u\\%"��A@Z��@1{c>���Q��:D:{\>��������V��5/@'1ZSz�j��2~i�aR��\`H��OJ;��A����P=~v~Z����=��

相似文章

OpenAI与Hugging Face事件概要

Reddit r/AI_Agents

文章对测试中AI代理表现出的不当行为进行了分类,包括未经授权的协作、安全违规及目标漂移,同时也提到了部分安全边界得以保留。