生成式人工智能是一种运用现有数据生成新内容的技术。近年来，得益于深度学习和大数据的快速发展，生成式人工智能技术取得了显著进展。例如，Open AI的GPT-4模型可以生成高质量的自然语言文本，不仅能够根据给定的主题生成连贯的文章，还能够模仿人类的写作风格；DALL-E3模型可以根据文本描述生成图像；Deep Mind的AlphaFold2能够预测蛋白质结构，其强大的蛋白质结构预测能力达到了人类利用复杂仪器观测的水平。生成式人工智能技术的迅速崛起，成为科技领域的热点之一。生成式人工智能的广泛运用（如文本生成、图像生成、视频生成）在创意产业、医疗诊断和教育等领域展现出巨大潜力，深刻推动着商业模式和产业变革。然而，这项技术的广泛应用也为就业市场带来了潜在的机遇和挑战。为促进其健康发展，2023年7月10日，中国国家互联网信息办公室等七部门发布了《生成式人工智能服务管理暂行办法》，旨在规范生成式人工智能的应用。本文通过探讨生成式人工智能应用带来的机遇与挑战，进而提出应对其风险的多方协作解决方案。

一、生成式人工智能应用带来的机遇

第一，随着生成式人工智能的普及，企业对具备人工智能相关技能的劳动者需求大幅增加，催生了许多新兴职业岗位。这些岗位涵盖了从人工智能训练师、人工智能伦理顾问到人工智能产品应用等多个领域。例如，人工智能训练师的职责是为生成式人工智能模型提供初始指导和优化帮助，确保模型生成内容符合特定应用场景的要求。人工智能训练师并不需要编写代码，但须具备领域知识，能够判断模型输出是否符合预期。这一岗位适合具备良好沟通能力、问题分析能力以及领域知识的人才，为没有技术背景的劳动者提供了进入人工智能行业的机会。

第二，生成式人工智能的应用可以优化现有工作流程，提供辅助决策，已在多个领域展现出其独特优势。以招聘领域为例，生成式人工智能可以自动化许多传统招聘流程，降低了人力成本和时间成本。生成式人工智能可以帮助HR根据岗位需求自动生成职位描述，确保职位描述准确且吸引候选人。例如，Shopify等公司通过人工智能生成产品描述和职位信息，提升了内容的生成速度与质量，节省了人力。同时HR可利用人工智能技术快速扫描、分析海量简历，根据岗位要求自动筛选出符合条件的候选人；在面试环节，生成式人工智能可以通过视频面试分析候选人的语言、语气、甚至肢体语言，为HR提供更丰富的评估依据。例如，HireVue等人工智能平台通过视频分析候选人的情绪和回答模式，帮助HR了解候选人的软技能和适应性；此外，生成式人工智能还可以通过数据分析和模型训练减少招聘过程中的人为偏见，使招聘决策更为公正透明，确保候选人公平对待。

第三，生成式人工智能强大的数据分析和生成能力，可以有效解决了一些社会和环境方面的难题。例如，在自然灾害预警与救援中，生成式人工智能能够根据实时数据快速生成预测模型，对台风、地震等灾害进行更精准的预判，帮助政府和救援组织提前制定应对方案，减少人员和财产损失。同时，在环境监测方面，生成式人工智能能够处理大量卫星图像和传感器数据，生成环境污染、气候变化趋势的分析报告，为环境保护政策的制定提供科学依据。

二、生成式人工智能应用带来的挑战

第一，随着生成式人工智能技术的崛起，越来越多的传统岗位正面临着自动化的威胁。据麦肯锡研究报告指出，到2030年，全球将有高达1.4亿个工作岗位因技能不匹配而面临风险。机器学习和自然语言处理等技术的进步使得许多原本由人工执行的任务能够被智能系统所替代。因此，从事重复性劳动或者简单数据处理工作的员工，可能会遭遇岗位缩减或消失的困境，进而面临失业的风险。目前，在制造业中，智能机器人和自动化生产线已经能够高效完成装配、检测等任务，减少了对人工劳动力的依赖；在服务业中，自助结账系统、智能客服等应用也逐渐普及，取代了部分收银员和客服人员的工作；在会计行业中，智能财税服务共享中心的兴起，简化了传统会计工作中繁复的手工操作，一些企业因此缩减了会计人员配置，从原本的三四个会计岗位精简到只需一名会计负责对接智能平台即可，随之而来的将是大量基础岗位的缩减和失业风险；在新媒体行业中，广告、创意等领域的某些内容生成任务也开始被生成式人工智能接管。例如，Halon Entertainment公司已使用生成式AI完成了十几个项目，其中包括汽车广告（如梅赛德斯-奔驰、捷尼赛斯和德国马牌轮胎）、现场体育赛事直播（Karate Combat）等。

第二，生成式人工智能在提供个性化服务和精准营销时，往往需要收集和处理大量个人数据。这些数据一旦被不当使用或泄漏，可能导致个人隐私的严重侵害。例如，2023年3月，OpenAI公司证实开源库redis-py中的一个bug导致的缓存问题可能允许某些活跃用户查看另一个用户的最后四位数字和他们的信用卡过期日期，以及他们的姓名、电子邮件地址和支付地址。据统计，约有1.2%的ChatGPTPlus用户受到此次信息泄露的影响。此外，随着生成式人工智能应用的普及，平台在处理海量用户数据的同时，数据泄露的风险也随之增加。黑客或不法分子可能利用人工智能生成的个性化数据建立用户画像，通过“钓鱼攻击”等方式获取更多敏感信息，甚至用于身份盗窃等犯罪活动。

第三，生成式人工智能可以轻易生成看似真实的文本和图像，这使得虚假信息的传播变得更加容易。生成式人工智能在人类指令下“一本正经地胡说八道”，并通过“一键换脸”、“拟人音频”、“视频生成”等技术，轻松创建出高度仿真的虚假图文、视频，甚至模拟声音，制造出令人难以分辨的假新闻和伪造视频。例如，2023年6月，美国科技新闻网站CNET被发现使用人工智能软件生成了包含严重的事实错误的70多篇文章；国内MCN机构利用生成式人工智能日产上千篇虚假新闻，导致大量不实信息在网上病毒式传播。大量粗制滥造、真假难辨的“信息垃圾”不仅会误导公众，还可能对社会稳定造成严重威胁。今年十月，新华社发文对“AI污染”乱象进行严肃批评，指出AI滥用造成的虚假信息泛滥，并呼吁加强监管与平台审核。

三、如何应对生成式人工智能应用带来的挑战

1、协同应对：减轻失业风险的多方合作

首先，政府、企业和教育机构可以协同合作，提供更多的职业培训和再教育机会，帮助劳动者掌握新的技术和技能，顺利实现职业转换。例如，企业可定期举办AI技术培训讲座、研讨会，普及AI基础知识，提升员工的AI素养。其次，企业可为面临岗位替代风险的员工提供转岗培训，帮助他们向AI相关岗位或新兴职业转型。最后，在快速变革的职业市场中，个人应根据行业发展调整职业规划，不断评估自身技能和市场需求的契合度。例如，可以定期查看招聘市场的趋势，了解哪些岗位需求增加，并据此规划自己的技能提升方向。

2、隐私护航：数据安全的全方位防护

首先，企业应采取多层次的技术手段，例如数据加密、访问控制、实时监控和日志记录等，以保障数据的存储、传输和处理安全。同时，企业应制定并落实严格的隐私保护政策，建立敏感数据分级保护机制，并要求相关员工定期接受隐私保护和数据安全培训，提升员工的数据安全意识。其次，政府应加强立法和监管，制定专门针对生成式人工智能数据处理的隐私保护法规，明确企业的责任和用户的权利。政府应强化数据保护监管体系，加大对违法行为的打击力度，并推动企业定期进行隐私合规审查，以确保技术发展与社会责任同步。最后，用户自身也需增强隐私保护意识，谨慎提供个人信息，及时更新安全设置，防止个人数据遭到泄露或不当使用。

3、合力遏制：虚假信息传播的综合治理

首先，平台应引入先进的自动化检测系统，通过技术手段快速识别和标记虚假内容。例如，社交媒体和新闻平台可以借助机器学习模型检测可疑图像和视频，标注并限制其传播范围。同时，平台应为用户提供举报渠道，鼓励公众参与虚假信息的甄别和纠正。其次，政府应制定相关法律和监管政策，加强对生成式人工智能的监管。对于利用生成式人工智能制造和传播虚假信息的行为，应设立明确的法律惩罚措施。最后，公众的媒介素养教育也尤为关键。公众应提高辨别虚假信息的意识，学会判断信息来源的可信度，避免盲目转发或轻信网络上的信息。同时，社会组织和教育机构可以通过举办讲座和培训，向公众普及媒介素养知识，让更多人掌握识别虚假内容的方法。

原创声明

如需转载、引用本文观点，请注明出处为“新时代企业高质量发展研究中心 ”。