付凌钥 徐险峰

摘要：随着人工智能在图书馆服务中的应用不断深入以及智慧图书馆建设的不断推进，促使图书馆传统服务模式发生变革。同时，人工智能带来了诸多伦理挑战。在这一背景下，探讨人工智能在图书馆服务中的伦理挑战及应对策略，具有重要的理论意义与实践价值。现通过分析人工智能在图书馆服务中面临的核心伦理问题，提出多维度的应对策略，以期为图书馆在人工智能时代的可持续发展提供参考。

人工智能技术的迅速发展，不仅为图书馆带来了发展机遇，也使其面临全新挑战。人工智能技术有望“创新”图书馆，赋予图书馆更加智能化的资源管理及服务方式。技术发展带来的绝非只有好处。图书馆作为维护知识自由和信息公正的核心力量，在应用人工智能技术的同时，需警惕数据隐私、信息公正、责任承担以及职业伦理等方面的风险。此外，图书馆作为知识和信息公平的保障者，如何在利用人工智能技术的同时，不偏离职业伦理和社会责任，成为一个值得思考的问题。

目前，全球图书馆界已逐渐正视人工智能带来的伦理问题，并提出了初步对策。国际图书馆协会联合会（IFLA）于2020年发布《图书馆与人工智能立场声明》，人工智能开发和采用的快速步伐引发了有关知识自由、信息公平和隐私安全，以及必要数字素养技能的演变和相关知识产权政策框架的构建等关键问题。与此同时，我国智慧图书馆建设方兴未艾，人工智能的应用持续深化。尽管国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》，为人工智能在图书馆服务中的应用提供了基础性伦理指引，但有针对性的行业规范尚未出台，相关研究亦显薄弱。在此背景下，有必要系统地梳理人工智能在图书馆服务中的伦理挑战并提出相应对策。

核心伦理挑战分析  

人工智能在图书馆服务中的应用，虽然极大地推动了信息服务的智能化和个性化，但也带来了众多潜在风险。从数据隐私与安全风险，到算法偏见与信息公平，再到责任归属困境与职业伦理冲击，人工智能在应用发展及逐渐普及的过程中给图书馆的发展、服务模式和伦理框架带来了诸多挑战。

数据隐私与安全风险

当今社会，数据隐私与安全问题已日益突出且不容忽视。它们渗透于人们日常生活的各个方面，且呈现愈演愈烈的趋势。智能图书馆通过收集和分析隐私安全范畴内的各项用户数据，如读者个人信息、图书借还记录、网络浏览记录和兴趣偏好等，实现服务精准化与运营策略优化。然而，若收集了超出范围或透明度不足的数据，就可能侵犯读者隐私。

值得关注的是，人脸识别等人工智能监控技术在图书馆中的应用正引发显著冲突。人脸识别技术可以用于读者认证、自助借还等功能，在提升读者便利性的同时，同步采集了读者的在馆行为特征、读者身份信息等。美国公共图书馆曾有将人脸识别技术应用于公共图书馆的尝试，引发广泛争议。美国图书馆协会（ALA）于2021年通过决议，明确指出“在图书馆使用人脸识别技术与《图书馆权利法案》倡导的用户隐私和反对监视的政策背道而驰”。可见，在数据隐私层面，如何在提供智能化服务的同时兼顾读者的隐私保护，成为人工智能时代图书馆需优先考量的伦理问题。

算法偏见与信息公平  

图书馆一直致力于为用户提供获得和使用知识的公平机会，但由人工智能系统做出的决定可能有失公正，有损信息服务的公平性，主要体现在以下三方面。

一是数据偏差问题。人工智能算法本身具有非中立性，其训练过程高度依赖历史数据和人为设定规则。假如训练数据存在代表性偏差（如数据主要源自特定语言、文化或社会群体），那么算法在检索排序或推荐结果上，可能对其他语言文化或少数群体的资源呈现不足，甚至产生歧视性忽视。

二是“信息茧房”效应。“信息茧房”是海量信息差异化消费的必然结果，算法在其中扮演着匹配用户信息需求、简化人与信息间关系的角色。个性化推荐算法为了提升点击率，倾向于向读者持续推送与其历史兴趣相关的内容。长此以往，可能导致读者接触的信息过于同质化，使其局限于狭窄的信息圈子，难以接触多元化的知识和观点，这有悖于图书馆促进知识多样性和启发用户探索新领域的初衷。

三是算法的属人性与价值倾向。人工智能系统的设计和训练往往受到数据采集环境及开发者价值观的影响，不可避免地掺杂人类的价值倾向。因此，现实世界的社会正义、伦理道德等问题会被映射至数据库，可能会对特定主题或观点的材料权重设置不当，引发意识形态层面的偏向。即使数据源并无明显价值偏向，人工智能也有可能在未来的深度学习过程中产生偏见。值得注意的是，这些偏见多以非显性的方式存在，很可能在无意中通过复杂模型被引入并且放大。用户往往难以察觉算法在“替他们选择”信息，从而丧失获取信息的主动权。

责任归属困境  

当图书馆将读者咨询服务、馆藏分析等决策环节交由人工智能系统执行时，一个根本性问题随之产生，即当人工智能出现决策偏差甚至产生失误时，责任该如何界定？在传统的图书馆服务模式中，馆员既是服务的提供者，也是决策的承担者，当用户遇到问题时，可以通过与馆员交流以解决问题。而人工智能介入后，用户权益受损后的责任归属陷入复杂困境。如果出现误差或者错误，可能源于人工智能系统决策机制算法缺陷或训练样本数据不全。同时，馆员可能将其归咎于技术故障，而系统开发商则可能将其归责于图书馆提供的数据，由此带来的“责任黑洞”会严重削弱用户对图书馆服务的信任。此外，责任困惑也是人工智能责任归属问题的重要原因之一。由于许多人工智能模型是“黑箱”系统，其决策及解释生成结果往往难以达到开发人员预期的透明度，对其运行机制的有限理解可能引发不当应用甚至错误决策。而这一技术特性会引发双重风险，其一，错误决策无法及时、准确地被发现并纠正，进而产生误差累计的现象；其二，责任主体可借助这种技术的遮蔽性与不可知性，规避问责，从而进行权责的转移操作。

职业伦理冲击  

图书馆馆员作为连接读者与知识的桥梁，其专业价值和职业伦理在人工智能时代面临新的冲击。一方面，人工智能技术代替了以往由馆员操作的部分工作。例如，芬兰国家公共图书馆（颂歌图书馆）引入的智能资源管理系统，可以对馆内的实体资源进行分类存储、管理与定位，实现自助借还、定位和追踪，减少人工操作的失误。这种技术替代引发的深层忧虑在于，馆员岗位是否会被人工智能取代？如果未来人工智能足够完善，读者是否还需要真人馆员？图书馆馆员的职业前景是否会因此一片黯淡？这种顾虑不仅是就业层面的问题，也指向了职业伦理，即馆员长期以来遵循的服务原则和专业判断，是否在多数情况下可以交给人工智能决定？另一方面，人工智能系统的引入将促使馆员角色定位发生转变，馆员需要从信息的组织者、提供者，转变为人工智能系统的管理者和调节者。这要求馆员掌握诸多新技能，如理解算法的基本原理、对系统运行状况进行监控、评估其输出结果的可靠性、对用户进行必要的引导和正向性提醒。在系统设计过程中，馆员可能因自身专业能力不足、缺乏相关培训，导致引入人工智能后的图书馆服务质量不升反降。此外，职业伦理冲击带来的服务理念转变也表现在面对不同服务对象上。例如，当图书馆大量采用自助服务终端与智能机器人时，老年群体等技术弱势群体可能因操作障碍遭遇“冷处理”。这与图书馆一直强调的“以读者为中心”“人性化服务”“无障碍服务”等宗旨形成显著冲突。

多维应对策略体系

人工智能在图书馆服务中的应用引发了一系列伦理挑战，图书馆界应从制度、技术、管理、教育四个方面协同管理，制定系统化的人工智能伦理治理方案，以保障人工智能服务于图书馆行业的伦理准则和用户权益。

制度层面 

制度规范是人工智能伦理治理的前提。图书馆应在引入人工智能前，由图书馆行业协会或主管单位牵头制定清晰的人工智能伦理规范。该规范要立足图书馆职业道德和信息伦理的总规范，针对人工智能应用中的数据自主权、用户数据隐私权、算法可解释性、算法公正等做出明确规定。人工智能的伦理规范需满足以下准则和要点。第一，尊重用户的数据隐私权和知情权，划定图书馆数据采集和利用的界限；第二，保证算法决策的透明性和公正性，避免产生偏见性并允许用户知晓原因；第三，坚持以人为中心的原则，人工智能应用当以优化读者体验、提升知识服务为导向，而非以侵犯用户权益为前提；第四，明确责任制度，即图书馆对人工智能系统出现差错的处置和补救义务。

图书馆还需要建立伦理审查程序。对已应用的人工智能算法，需就算法偏见、数据风险和用户隐私危害等因素，组织馆员、技术人员和法律顾问三方面共同讨论，并严格履行伦理审查程序。该伦理审查程序不仅涵盖系统上线时的伦理审查，还需在系统运行过程中进行周期性审查和追踪审计，确保人工智能的应用有更长期的公平性和透明性保障。当人工智能应用涉及个人敏感信息或用户权益时，需引入第三方审计以增强系统的可信度。在遵循行业准则的前提下，应倡导将人工智能中的伦理要求纳入与图书馆相关的法规政策，与《中华人民共和国个人信息保护法》《中华人民共和国网络安全法》等法律条款的内容相结合，使图书馆中的人工智能操作和应用有法可依。通过制度的前期规范和约束，可以降低行业试错成本，规避发展偏差，守护整个行业的伦理底线。

技术层面

公平性、安全性和透明性是引入人工智能系统时的重点关注点，但都可通过技术手段实现。要想算法具备公平性，就要求训练数据集尽量覆盖不同语言、文化和社会群体，从而避免因数据偏差引起信息不对称。具体而言，需实施数据质量管理机制，定期开展数据集代表性分析，避免因机器学习的样本数据有限而导致算法偏见的进一步放大。

提高人工智能系统的透明度可以促进人们对其的信任。人工智能系统在执行检索、推送或者筛选工作时，需公开自身算法的合理性依据，让用户明晰决策机制，减少对算法的不信任感，强化用户在信息获取中的主导权。公开推送、排序机制，可以让用户有机会选择不同的推送方式，避免单一算法主导信息流走向。

隐私保护是一道关卡，也是应用人工智能技术之前的技术壁垒。图书馆需构建安全的数据存储与访问系统，确保用户数据免受未授权访问或泄露；利用数据匿名化和数据加密存储等技术确保用户信息数据不被滥用，降低数据的过度共享和滥用风险；定期审查人工智能系统的运行情况，保障人工智能的安全性和合法性，降低数据伦理危机的风险等。

管理层面

要想实现人工智能的伦理治理，就需要以完善的管理制度为保障。厘清人工智能系统的权责划分，使馆员具备对人工智能系统运行的监督、管理权责，确保人工智能的应用符合图书馆服务理念；人工智能系统的决策需确保必要的人工干预，对关键判断进行人工审核，降低算法错误造成的信息误导与偏差。

同时，在人工智能系统的应用过程中，组建人工智能伦理管理团队，负责算法公平评价、系统调整更新以及用户反馈管理等工作，使人工智能系统的应用符合事先制定的伦理章程。还可以设置用户反馈通道，由用户对人工智能的使用进行合理的诉求表达，推动系统的持续优化。

此外，图书馆还需构建应急预警机制，防止人工智能在运行中出现伦理问题。若发生数据泄露、算法歧视等问题，行政层面应快速采取控制措施，暂停相关应用，进行适当的补偿和救济，以及做好应急预案等。同时，设立评估和校正机制，定期检查人工智能的运行状态，防范长期风险。

教育层面

人工智能伦理治理的落地，需要提升馆员与用户对人工智能与伦理问题的认知水平。对馆员开展技术伦理培训，使他们对人工智能有更深入的认识，能有效解决人工智能的基本原理与偏见、隐私泄露等问题，并在人工智能的运行中，监督并修正算法，以保障人工智能的推荐、筛选和分类具有公正性与透明性。图书馆应将人工智能伦理培训纳入常规培训体系，增强馆员应对技术迭代的能力。

此外，应加强对用户的人工智能素养教育，使用户能够认识人工智能系统对获取信息产生的影响，以及识别“信息茧房”和算法偏见。图书馆可以通过举办专题讲座、提供学习资源和开设线上课程等方式，让用户学习人工智能相关的知识，使其在享受人工智能服务时做出更加理性、有效的决定。提供推荐调节功能，用户可以自主调整推荐内容，避免被人工智能系统单一算法所诱导，形成个性化信息获取方案。将人工智能伦理教育纳入公共图书馆普及教育，通过多元渠道提高读者对人工智能伦理的认知度。与其他机构合作，提高人工智能素养教育的普及率，使公众既能享受技术便利，又能对抗人工智能的伦理风险。

图书馆引入人工智能技术在改善相关服务的同时，容易因技术缺陷产生数据隐私、算法偏见以及责任界定等伦理挑战，进而损害信息的公平性和削弱公信力。为保障人工智能技术在图书馆服务中的合理应用，需从制度建设、技术手段、管理及教育四个层面构建人工智能技术综合治理体系。在制度层面，应该制定人工智能伦理细则，对人工智能的使用建立数据透明使用机制；在技术层面，需优化算法的公平性，提升人工智能技术系统的透明度，强化隐私保护技术；在管理层面，明确责任归属，建立相应的监督机制，防止技术滥用；在教育层面，提升馆员和读者的人工智能素养，增强他们的算法认识能力和信息鉴别能力，以实现人工智能技术在图书馆智慧化转型过程中的技术发展与责任并重。

本文系吉首大学生研究生科研创新项目“人工智能在图书馆服务中的应用研究”（项目编号：JDY2024056）的研究成果。

（作者单位：吉首大学）