AI聊天机器人：深远的社会影响与风险应对之道

魏新益 雷雳

近年来，人工智能（AI）技术取得突破性发展。其中，以ChatGPT为代表的人工智能聊天机器人，不仅改变了我们与技术的互动方式，更可能深刻地影响人类社会的各个层面。

ChatGPT是一种具有生成和理解人类文本能力的AI聊天机器人，了解人类在不同领域的知识，可以执行回答问题、提供建议、制作代码等任务，如计划一次有趣的聚会、推荐一道简单的菜肴、写一个Python脚本、评价我的辩论论点、教我学会打麻将等。ChatGPT具有大数据处理、持续学习、快速适应不同领域和无情感偏见的特点，与人类相比具有更高的学习效率和持续性。

AI技术的突破给人类社会进一步发展带来了机会，但同时也伴随着风险，因此关于ChatGPT这类AI技术的社会争论不绝于耳。例如，AI是否会毁灭人类？AI是否加剧社会不平等？AI是否导致工作机会减少？AI是否侵犯个人隐私？

为了明晰AI聊天机器人对社会可能带来哪些收益和风险，以及针对风险的应对之道，以博士生魏新益为第一作者的中国人民大学雷雳教授团队的一项研究（2024），从日常用户的视角出发，探讨分析了来自不同行业ChatGPT用户的体验和见解。

一、社会收益

研究结果显示，ChatGPT对社会的潜在正面影响主要体现在几个方面：

首先，它极大提高了效率和生产力。用户提到至少在一些行业中，使用ChatGPT可以简化复杂流程，提高任务完成的速度和质量。

其次，该技术还可能改善了人们的沟通能力，促进了更深层次的理解和合作。

此外，ChatGPT还有促进社会平等与和谐的潜力，比如通过问答的方式给学习者提供不同领域的、源源不断的知识和指导，使得教育薄弱地区的人们也可能通过该技术学习和掌握前沿的知识和技能。

最后，ChatGPT还可能对公众心理健康有所帮助，比如它提供的情感支持和心理咨询，可能减轻了人们的心理痛苦。

二、社会风险

ChatGPT的使用也可能带来一系列潜在的问题和挑战。

首先是就业问题，ChatGPT可能导致一些如翻译、客服等的传统职业消失。

其次，ChatGPT可能产生有偏见或不真实的回答，从而误导用户。

再者，存在促进不道德行为或犯罪行为的潜在风险，例如，被用来侵犯个人隐私，泄露商业机密，威胁网络安全等。

此外，用户对ChatGPT的依赖可能导致消极后果，如过度依赖可能导致用户减少主动思考和创新能力。

三、应对策略

为了克服上述风险，用户提出了一系列的应对策略。这包括对使用的限制和管理，增强独立性和批判性，改善用户素养，增强个体不可替代性，改善和优化技术，以及保护人类社会免受AI的威胁。这些建议为政策制定者、技术开发者以及其他感兴趣的人们提供了方向。

这篇论文发表于SSCI一区期刊Technology in Society（该期刊在“社会科学-跨学科”领域中排名1/110，IF 9.2）。论文的作者有：魏新益（中国人民大学）、楚啸原（北京邮电大学）、耿靖宇（青岛大学）、王玉慧（北京工业大学）、王鹏程（上海交通大学）、王宏霞（北京林业大学）、王财玉（绍兴文理学院）、雷雳。

资料来源：

Wei, X.Y., Chu, X.Y., Geng, J.Y., Wang, Y.H., Wang, P.C., Wang, H.X., Wang C.Y & Lei, L. (2024). Societal Impacts of Chatbot and Mitigation Strategies for Negative Impacts: A Large-Scale Qualitative Survey of ChatGPT Users. Technology in Society, 102566. https://doi.org/10.1016/j.techsoc.2024.102566