天天热头条丨【科学的温度】ChatGPT被指没“人性”，可能产生哪些危害？

中新网2月20日电 (中新财经记者 吴涛)火爆出圈的ChatGPT持续引发关注，有人和它产生共鸣，工作效率更高；也有人质疑ChatGPT没“人性”，或带来更大的危害；更多的人是好奇，它将如何渗透我们的生活？

(资料图)

带着这些问题，近日，记者采访了清华大学新闻学院教授、元宇宙文化实验室主任沈阳，来看看他是如何看ChatGPT的。

ChatGPT渗透多个领域，这些生活场景或率先落地

据了解，此前市面上不乏一些AI应用，可对话、可唱歌、可写作，甚至还可以提供一些诸如“问路”这样的基础服务，ChatGPT和这些人工智能有哪些不一样呢？

沈阳表示，ChatGPT和原来一些人工智能有所不同，比如它可以通过连续追问来了解一个问题的深度，一些探索的答案，这个是它的直接功能，“使用多了以后，你甚至会发现ChatGPT还能在多轮的对话中有一定的逻辑关联。”

“ChatGPT现在一个显著的功能是撰写文章或提供文章架构，未来学生在大专或者本科毕业时要求写的论文，可能大量的都是用人工智能来自动生成了。”沈阳称，目前看，ChatGPT相当于211高校中等偏上的本科生水平。

另外，沈阳还表示，未来，ChatGPT和虚拟人、机器人的结合将是必须的。虚拟人和机器人最重要的就是云大脑，下一步ChatGPT接入到各类虚拟人和机器人中将是全球趋势。

“ChatGPT可以在数字藏品领域大展身手，从辅助设计、数字文创、自动化生成等步骤都可以改进和提升效率。”沈阳称。

沈阳总结，人工智能潜在的服务会从比较准确性的知识，逐步转向解释性、阐述性的知识，到最后就是创新性的知识，它会逐步形成这样一个演化逻辑。

会替代哪些“饭碗”？对就业有影响吗？

沈阳表示，首先ChatGPT让一些工具很容易被替代，同时一些工具被增强了。比如说搜索引擎、绘图软件、office办公软件等都将增强。“工具的增强会带来效率的提升，也就是经常使用这类软件的工种，可能会比较早的被替代。”

“还有就是客服，目前各类电商平台或者是某个公司的网站上面，有些是真人在回答消费者问题，未来这些人的作用会进一步降低，因为你只要把这个行业的知识灌输进去之后，在人工智能的加持下，自动回复或者说在线机器人它是能够比较准确的回答这些问题的。”

沈阳举例，还有程序员的“饭碗”也可能面临ChatGPT的挑战，你只需要描述好任务，人工智能就可以生成相对比较简单的代码，当然下一步这些代码会越来越复杂，但是因为人工智能也可以去通读网络上这些所有的开源代码，它未来编程能力也会越来越强。

有网友在网络上称，“讽刺的是，程序员开发出了ChatGPT，但ChatGPT却想让程序员失业。”

最后，沈阳强调，要两面性的看待ChatGPT带来的就业问题，这是一把双刃剑。比如文创行业，用ChatGPT进行文稿撰写能让一些“自媒体”失业，但同时在一定程度上也能让某一个平庸的“写手”，作品质量突然有所提升。

“总之，ChatGPT要么提高了质量，要么提升了效率，提升了效率的话，实际上就会造成一部分人失业了。”沈阳称。

被吐槽没“人性”，可能产生哪些危害？

ChatGPT走红以后也引发一些争议，多家媒体报道，苹果联合创始人史蒂夫·沃兹尼亚克甚至直接吐槽ChatGPT在给我们带来一些便利的同时，可能犯下一些可怕的错误，因为它不懂“人性”，缺乏独一无二的人类情感和品质。

沈阳认为，ChatGPT的危害首先表现在它输出的内容到底可信不可信上面。很多测试结果显示，唯一性答案的问题，ChatGPT回答得很准确；但如果提的问题稍微深奥一点，可能是一个多选项时，ChatGPT出错率就增加了。

“如果是一个完全开放，并且胡诌的问题，ChatGPT有时候也给你胡诌。即便你正儿八经地问问题，它可能也会给你回复一条夹杂了不实信息的内容。”沈阳举例说。

实际上，谷歌为此已经付出代价。谷歌母公司Alphabet最近发布的新人工智能技术Bard在演示时发生了一个错误，引发投资者担忧，导致该公司股价大跌，市值当时蒸发约1000亿美元。

另外，沈阳表示，ChatGPT回答包含的媒体发布的信息相对是比较少的，所以在回答内容的质量上面，在价值观的偏见上面，在某些领域它还是存在很大的问题的，这些问题都是未来其他的AIGC平台需要去避免的。

沈阳还表示，当AI能够代替人脑的一部分思考，人脑的思考价值性就被抵消了一部分。在教育中使用，还怎么训练学生的思维能力？如果教育无法优化教学效果，人类怎么去培育新生代呢？(完)

标签： ChatGPT Alphabet Bard AIGC