自动化的悖论 (1983)
摘要
Lisanne Bainbridge 于 1983 年发表的经典论文,深入探讨了自动化的悖论。文章指出,自动系统越是先进,人的介入就越关键;而将操作员移出直接控制环节,反而可能引发新的故障类型。
<p><a href="https://lobste.rs/s/1glwxo/ironies_automation_1983">评论</a></p>
查看缓存全文
缓存时间: 2026/09/06 14:41
来源:https://static1.squarespace.com/static/644321e78cd2dd37613af33e/t/6694873f71612132a84371c7/1721009983702/Ironies+of+Automation_Bainbridge_1983.pdf %PDF\-1\.2 %���� 99 0 obj << /Linearized 1 /O 102 /H \[ 1112 260 \] /L 630136 /E 118590 /N 5 /T 628038 \>\> endobj xref 99 30 0000000016 00000 n 0000000949 00000 n 0000001048 00000 n 0000001372 00000 n 0000001720 00000 n 0000001843 00000 n 0000001973 00000 n 0000001996 00000 n 0000003654 00000 n 0000003782 00000 n 0000003910 00000 n 0000004038 00000 n 0000004061 00000 n 0000005615 00000 n 0000005638 00000 n 0000006982 00000 n 0000007005 00000 n 0000008586 00000 n 0000008609 00000 n 0000009991 00000 n 0000010014 00000 n 0000011461 00000 n 0000011484 00000 n 0000012846 00000 n 0000012869 00000 n 0000014355 00000 n 0000014397 00000 n 0000014422 00000 n 0000001112 00000 n 0000001350 00000 n trailer << /Size 129 /Info 97 0 R /Root 100 0 R /Prev 628028 /ID\[<127449424f087ab781312ea48d8f89bc\><127449424f087ab781312ea48d8f89bc\>\] \>\> startxref 0 %%EOF 100 0 obj << /Type /Catalog /Pages 96 0 R /PageMode /UseThumbs /OpenAction 101 0 R \>\> endobj 101 0 obj << /S /GoTo /D \[ 102 0 R /FitH \-32768 \] \>\> endobj 127 0 obj << /S 61 /T 143 /Filter /FlateDecode /Length 128 0 R \>\> stream H�c\`\`�c\`\`�\`\`a\`8s�A�@lV ��q���\!�/o���d&�$30�5\.j�d�M\`\`0�\`\\�p�\!�����C�����@���� bw��N=�����\*���5��H1�eb8'�if��Č YaN ��P endstream endobj 128 0 obj 145 endobj 102 0 obj << /Type /Page /MediaBox \[ 0 0 591 843 \] /Parent 98 0 R /Resources << /Font << /F0 104 0 R /F1 103 0 R /F2 109 0 R /F3 108 0 R /F4 107 0 R \>\> /XObject << /Im1 126 0 R \>\> /ProcSet 124 0 R \>\> /Contents \[ 106 0 R 111 0 R 113 0 R 115 0 R 117 0 R 119 0 R 121 0 R 123 0 R \] /Thumb 83 0 R /CropBox \[ 0 0 591 843 \] /Rotate 0 \>\> endobj 103 0 obj << /Type /Font /Subtype /TrueType /Name /F1 /BaseFont /TimesNewRoman /Encoding /WinAnsiEncoding \>\> endobj 104 0 obj << /Type /Font /Subtype /TrueType /Name /F0 /BaseFont /TimesNewRoman,Italic /Encoding /WinAnsiEncoding \>\> endobj 105 0 obj 1578 endobj 106 0 obj << /Filter /FlateDecode /Length 105 0 R \>\> stream H��W�n�6 ����\(д��J�%�ݧM���� ��g�Gɨ�e\`\{v��Q���ǒi��,� �h����mX�k64 �" ���� v�����Y^e�B,ܼ�/8�T�� F�g�o�g\!\!���G \`���;��9 �c�H�dYBX��D���������q�\}�"�o��o�\{��\}w=j�"1ȤZ�� ���z��xxHƟush�����h\>�T��\+���?�ɲ\>@x:=���t�,\]��뷴��\>;� ���jߌ��,%�t��ʬږY~4��ԉ\|\-��v��v���\`F5�z\]m ���F �O�n��\+��,��Lg0��:wZ%���\>' �C߬��,�K��5�jȀ�\>f�876w�ހXYup��A��ը�������~$�y�����k���nwGm�d=�Ӥgf�\{c�@\*s�m~n\[\+R m�ʮc�5��=�N���3�L\!Cr����K a�uΜH��G�Q��;'�S�� �$��;0���TI�I��\*�~p�3�L�2�B\(�X�Ӕ�s�7���\`���1���Ҭ0s�㙢 l"��k~0�ݡP�\*�9W�v�\-\(��å���\`��\+sL�j;?��S��$GQd��rÄh1\#����$�r�N��b8Nz�eT�O��R/���$���iAE�\#b��n���e�e��3\_9���\.��Y\!D�3a<��QD�=�\+ \>:sᨳ�:��F�5O\{�r:��ECzks�MIbҚ¶<խv�\.zI\}3\(\|J6AS�\.p$���x1�ǜ�d endstream endobj 107 0 obj << /Type /Font /Subtype /TrueType /Name /F4 /BaseFont /TimesNewRoman,Bold /Encoding /WinAnsiEncoding \>\> endobj 108 0 obj << /Type /Font /Subtype /TrueType /Name /F3 /BaseFont /TimesNewRoman,Bold /Encoding /WinAnsiEncoding \>\> endobj 109 0 obj << /Type /Font /Subtype /TrueType /Name /F2 /BaseFont /TimesNewRoman,Bold /Encoding /WinAnsiEncoding \>\> endobj 110 0 obj 1474 endobj 111 0 obj << /Filter /FlateDecode /Length 110 0 R \>\> stream H��WMo�8��BO\)ШI\}���\-z܃���m��HC��d�R�H�ı�"@Cj8��7A�\#$L� ���\`��O�\(d����z�=D�9����QH�/���,J\-�p\>\`�\#��aB�$��\(��r���\(��8 �Gs�I�ޔ�?��=��\{^��o��\( �h������aAn70�n��en��yj��\+�\)���\|y? c\_ݢI����%Z�j<�st:�Ļ;\[�Ϣ��y�Ë���SP�^��&N�w�\_\{���h��e%�M�����Ì��o�m4עR���Ҁ�I����\(���=��3D��4�l�04�\+1C�J̛n�6����Put@E ����U�u����X1x\]3��cd@�rI�\[��\#\{qny9������;\.\]�7 ���lBG�bcȲ�:/ݽ�J%u��/�C�\}��n��f�� �љ8���a����^Z1��F\!��\)�dP��%����\\��'�R��R:�\|\|Q��J\\�R i\-ɺU��M\`���E?�\#K ��?ԋ��~n\.e\(����\)"l ��9�zEAn��iR �ض��F\[L�������\)\.����9:q�C��FjG���QC��d\!���'Ss��\+ 4�nNu��\!�@34\-���=�o���a�wXj��0K���\}\#HB��'�E\`ݦ�?B�X �������^1υ�&Sx��g1u�㔌 ��An����\{��Q�� ��� �1�f0j�呜A��կqГ��\#d���\\P֎72�BrY ���E��?���=�rp����Ƹ��3bq��%\!�r�����\)�p�S �TZI��A� \-\-0�V=�\(�u\-PT�A5���I7�5,�&\>�We�V�C����5�����HT����Oe�\}m�d�YO��R����I �"\>�@�O^xX��F�EU\#K���Ry�SD� Y�6�Լb~t�9~� i2���w�w�°~� i�\)�E0�;@O�<���vJ1�LA\_��L�g�\.&�h�����\+��3/��$�C���xe�;:e�N�\.���\\\}3�g�E�$0o�\{�\)ͷ�\|�@A�\-\{�6ި���y�?�\*�SU�D����27� �U��IP �P�����n<� cp\(6�k�^�G��u\|���A� ʕ%��R�ܹ�pS�����Z��\`��@DP��Z�V:�X�8�p�E�=�nɦ�\]?�8�vO&Q����G\\���Y� �����PbE���l ��&����1���,N\}\#��C�j�m���x���3^�w�VXAa���,�s�\]�g\`��Vb��� �W�CC �\{l�S��\+Q�F;�d�������\`�\!t�Ɍ���;�� endstream endobj 112 0 obj 1264 endobj 113 0 obj << /Filter /FlateDecode /Length 112 0 R \>\> stream H��W˒�8������րx�7&b���cv9@����Wn\#QX��s�蛻\(I�YYYQ�I��\_�c�����&���͗�\]�w��w��,\.\#��?��d������p�\[V�~xN��i�2�gs�\>���� /4\-��c\}:�^v��A���m\.�\>h�Qڋd0�\\D��;�p����"\{�ke��ʑDۄm�\(�J��Ѿ\]\{o\+ާ�\>��AW���bԪZ���̡�ZMy����b�� \+�"f�����M��2\}w\+�����ꧻ�\(5e��%�K3�$�,�3S�:շ�� 2N�\+��\(mN��h���'9ꌂ�v8�����6qy\#\`���,\[XID����? ��\.u�\* \.AIp=��k��\#e��\|U�Bd��\)\!K�Fκ\-\!86�2����lS^��Gae�s�I�:�p:\`v\!?��c��1�=��\]�pw,��jg��2b��\`�� � �\+Dj\[��Q��˨r4�i�Aѭ��\`&/�đ\-�ɚ����$5����v8��Ǘ�G\#wڼ\.nX��~o�$,4�ȃ�O4���߱��y���o�72���n?�^B�\|夜�E�Z�\]� �u���R�gh&�q��Z� 'ޕi���3��2E2���V�:;Y˟L�\*�?�<��\*�erS�@m��b�a�ž�A�I7:� x@A$ ���\}вu\\\+NF��r�t���O\(z��\+ݳ5^\!�G:�zt/������5qm�e��L��5�;�w���\]b4B���&/T0���o�\{k��͡ύ����X\}��f2�5jԏ��\.�l��\.�\`,虜 ��ߚf��o��N�K�bOۄ? ��j�\)��I�Hl\(�\{c�^�\)\}������R��G�Qa���J/�?'ќ� endstream endobj 114 0 obj 1501 endobj 115 0 obj << /Filter /FlateDecode /Length 114 0 R \>\> stream H��W�n�6����"��B�Ч\\���H�U�\}e$��B�����K�"5��� �a= g�9s�^�B�:�V�:�X�v�$/\{\+���u�s�$����ە�n�ɭ\>:� V�P7 1����\*\*�وL�J\]��\#Ƴ3�o�\>�C�p rW��/���o�\]�� �p���\(E�7��ю�\\��kϡm��rt��od\]�\#\!WE���j^�����K��5$\.�����\}b�%Hn�y��5�8�a&C���r��\+����9F�\\��\)," �\}�J�\]\!SJ�C�M�l\!8�T�%P� �T�%��\)�\.\]��ӕ�MhJ� �A��^����n&h��g\\�P�IK���h\]�A;A0�\[��\|�O�x�Z�6��?��zę�@�wјz����B�X�?�A8�o�ا�Dc�N�,�0�$���憴�ń�\`"�\[�E�9����F�U�,�bh�ͯz���Q����ͬё��e�?ؐ��s/y�eތ��D��Q�zXjT$��h�s�z'��n\.������wW�$q� \|��7u���Ye�gi����Of�8�\|��\+��c\#�\}t���وmՇ\{1�U\|9��L���v��ݽ�����c �\_<�l���v�Hl�a�2�\{��\{�x�8����v���a�Վ\{�hZP����v�r^\}A���ףS��5P�\} FzO^�\_�F\{H�U�RT\[��I�, 8 �W�ok� ��cL�L����� ���J P����8���o�D��\( �=��l�\{β�n��Ԡ�\*�ƒfw�0Βs5��S�\(�^�@����Gc����Z�ZE���� l3b�"\>s�e��C6L��7S���;���W�\_,�?l\{�,� W�\.�a���A�ҡh=��0�Ĩ��<��ѽ�o�O����&�5�����A�\+��,�\(oI1���L��v5��� ?�nh3%���Un���j��T�am�몓� ,\[�\`\`���ԃ�Cύ\>'U\[�a� ۛ����<ɹ�����A��t�Ӄ\+�m��d�\\����<�O,����T��˒��n����\]\]���M��\#��k%�׃:\.��F��\. ����wZc����U^o1�ɸs�A@=\>���\`8�q��YOB�Ey sx���,��zs�����J�&�M��ۘa�,�U\.��5\['�n L�\(8��w��N2�ԣl\#3�w6��%%@7������\(�1��SIf\}�\.B��8E��tCԗ�'\`:B\*XfS�yT���P F�jj���v\|�ܰm� ���ȇ��t�@W�Zi�T��\)^��3P���܊2���\\�������/�n�� �3k\!S�\-S�jЦ�\)���G�2�1��q�\!�H࠘��M��s�P��\)f���ѽ ���6����a�5b \)����g��M;j"\_�7T��\+�������\_^Rh\|@\>�\(��lDv\(�m��p�\#��\> �?9\]�� endstream endobj 116 0 obj 1302 endobj 117 0 obj << /Filter /FlateDecode /Length 116 0 R \>\> stream H��W˒�8��Ǚ�^ �\}cb��\}�����9��^�ׯ��\(�,<1�7wI���2��h�4�^�\]�^v\_dg�\>iaH�5z�w�0�Ƒ�ߟ; �8�\(�?���Zq�f�dy0�\\O��ӂ��\*�����=rO�u\`O�Bk����\{�� <���14\#E����6��$t�@VN�Z��6�0��F,߃��%a��dv1?�fL���� �5�ƫ��b%q9@��\)l\`;\{j�6�����P��\#D�wb���I�� �'�sš1�: ����Q ъ��Ϥ9\)�7u6������O������WZeG~\|��c���Zij<���7@ ku �k��c�Y H\#�lTk��y���u���\{\|\[���dh\`2\+� � A\.姓Vܕ�g�/�%�'��\]U���~H����J0��ƾ�m�� S@d&˭���8Tݪvu�\{o��\-�6����р��k"v ��4 ́n�L\+x,�e�7=3F ���:\[z���\[�Qy�����NX\#��C�\`XB�HS\{P����T��e\`D�~�Fs\} ���jQ�:���,�\)3��y��Eآ�c�:fiL�@<���K�?cju\>�N J�\[��i��0�gm��CW<'�:5\]С� �a\!�h ��x�w�� �cHb j��4�\|5dYI@���O٦��EK��Ò���9J�;��d߾�ѽ���^؟~�=��n �3ߍ3�= �����1�������F��7�������H�ކ�p�o2L�g�zQ~ư^Dr�a��\+� �\!�qT\`���wZ�p���kR\)�,�@\*\!�\|��\(4pЦ�E���u��$QLgf��9�\!��G�\+P����ko�He����iE��e �61�\`��NVȀ����\*olU'a1I�9�vp����a��W9�W2TH \)�E�J�,�ڋ�B��=\[Oz ���ֶN��ŋ��w&g��dɐ7��B�M"�3�\# ��WL\[� �5G����lY������m��4%��x�\> stream H��WM��6��\>��ڰ�$\>�ɞ�S��e/zX6�����\` ���k�QOOwk�\{�eۋ��?����<"�\>�~�%���;���C���^w/���$�h2\)�ʫl���De�P\{�\}5����\(\]m�Ԯ \[� �QA��Ѩ�%���tzPvZI����N���QYFI�?cSa����ӦED��Y��M���E����\)��$��\|��G y\}�A���P���@�NW�\+�\-����L·���F��A;�OՕV�Ӎo& \_״��\{��h�32�� ����J��\[�\{�"�����ςt��IXU��\-�ᆂ�^y/��'e���m��DO��������Q\_�,l��;��x�NT�����\!��l�Ә��ҳU餑Lr�䙧�Ӝ�A��R�Gwek��Z5�?Op�\|�/\_�\}qW����t����\}����'"����1��±����5����ytG&����vL\|Z��x�9�f8�0����^~;^yw��\\��� �\(x��B8݁��Ҙ\>ȸ0�2��\>�'HQ"��\[b�ͥ��\]�P/D�bKr����脪�3T�\_�� ���\!�Υ��\]D'��gӗFзh��=�4W= d��\(�lp�$� NA۷sL\\u�����l�q�wK��lLg�A\\V� ���������r���B� Ńr�q0�M�YB9����P̐��@���I��w\{\+�l�vl��Q T ���������\`j�Qќ;��wH�Vp5���ы����'6x���Vt��0Y ���l�s=E\]N�Zk�j���j�gh��y�w�筴2l%L�VҶ?�i�s2ȱ�K���� �n�\}�ߠ��\#� \-���@Z��J\_\}\)f�1�r%^\.���M�䴤� endstream endobj 120 0 obj 1282 endobj 121 0 obj << /Filter /FlateDecode /Length 120 0 R \>\> stream H��Wˎ�6����\`G\+�z�$ G9kl��Z I^c���l�j�%ړ\`̴�~TWU\{�&��z<��,�8�~y۳����7��3o������"�\{?y��0�9S���Fc�d�����L�$��\` ,�~2@O�Ⱦ8�N��YNr�\!Z�UY�L\!�\_��\)�\\\|��j�G�ډ^���H\\o�� I��r':����e^5�4ق�xN�����\.�J6z�<�3�3 i�c�\#���\!�s���g�H�X?��b bI�c�9� ��zW��� G�~�~� ���؝���q? l0�����~�1?sG�eјV0S�\);�����9�d�\*�r��n���� O\>�m���k\)/�=����HFE�w� \#��L�\-C��~4F�xz��3��:�ݵ�Y�F�s7���ٹ,��\+4�g� �K;2gh����Vy�n�8m��65�\}wHQ�3��dKy��\!����f��\#\(ȇj�2TnH�\+�B��w��8me������c�C�\]\]�U\}i��O\(\|ƫ�G� B���\*d/&��65$d�g9��ݛke�����\|��aܥ��HV�Z6Y�V$B�R6\>W����\(4��e̩%��١TK5�K�X�t���W�& \*<�&�� �\.��\`�I\#16F� Z$�ِ�k���\*�t&�=Y$��,�s��h�ͪ��܁:�c�P��P�������ACe�� �ČN�jW\.f�8X� �2���r�1��b�7�&�\[fD��6t���M�'���e��M0�LJh�B�5���P9͵� ��6\(p�M��2�����\)��⸍��5�kH���qn/�̰u�aO��$ �caxu7��lG�R�����~z��;�y2�\#qZ�'��3g�\}B:C��6�� �G\`��' y�l�W�r��\+��\(��s\]�����/\><\]K�j��j�v����LB��xN��XJ����1�6�̬�E�o/��� � \#� ՠ�@�y"ZՀ�\`���\!����9�t��p㢙�\*�0ҍșl^wR�'�\#��0����ZM��f,12���BI��N��\*L����3ip�t���8 �\.X1=S�D����飡��75X<��������a�\*���?�/��cS�ɑ\|�t���J�^\#SfR�Z̆��R�7����3Dl�S\#o �G����\]h�%���"9����\*�����$\\���fΠ�\.����0�\_\(�\]��LS\(�ͤ\| :��д�\{^���\[q5��%\.�RMor� ��Z�� endstream endobj 122 0 obj 1406 endobj 123 0 obj << /Filter /FlateDecode /Length 122 0 R \>\> stream H��WM��8���2�JX�����Þv��ǹ\`,e �̿\_aK��6�\-�\\\-��~��k��~z�rx����$�����ܑ���\|�o�ɳ� �\)��b���=8L\}����h���Co�3���� ���y�m\|�G�\*\>�S\|/ ���l"� �\)���Ϣe�Xܣ֯�vA��L�7�I<��$'~��x0i���\\�=0N��N�N\(�sњ
相似文章
自动化中的讽刺(1983年)
这篇论文探讨了系统中的自动化可能导致人类操作员技能退化和工作量增加的讽刺现象,强调了在自动化环境中以人为中心的设计的必要性。
自动化的若干道德与技术后果(1960)
诺伯特·维纳(Norbert Wiener)1960年的经典论文,探讨自动化的道德与技术影响,包括社会责任以及机器决策的意外后果。
可替代但仍在职:自动化与工作的意义
本研究探讨了自动化如何在未取代员工的情况下,削弱其工作的意义,这可能导致更高的薪酬或因'意义外部性'而增加自动化的可能性。
@lennysan: .@danshipper: "自动化是个谎言。每当你自动化某件事时,就需要一个人在上面确保它持续工作……"
Dan Shipper 认为自动化始终需要人类监督,并反思了他准确的 AI 预测,包括被忽视的 Claude Code 的潜力。
缺乏理解的自动化
本文认为,随着人工智能系统在数学领域取得突破,美国忽视了理解、验证和指导这些系统所需的人类数学基础设施,从而构成了战略风险。