文：李梅君
上面这个八股的开场白，是的，当红的ChatGPT来了，你跟它聊过天了吗？
ChatGPT是由研究公司OpenAI所开发的聊天型人工智慧（以下简称AI），在去（2022）年11月底正式上线供众人类们免费玩耍评测。做为一个很好聊、绝不嫌你烦的聊天机器人，虽然不是上知天文、下知地理，但它承诺可以回答使用者提出的各种刁钻问题、陪你瞎聊、甚至以小助手的身份帮助你进行文字上的翻译、摘要、或是文本生成。最棒的是，它温柔又有耐心、保证不翻你白眼。
在短短两个月後，ChatGPT的用户数迅速突破一亿人，超越前记录保持人TikTok的九个月记录，站上史上最热门的应用程式宝座，并且打开了所谓「人工智慧的iPhone时刻」。
脑袋大开的网友们於是开始各种对话实验（以下句子经作者微调）：
「我要开一门STS的课程，帮我产生一份课程大纲」
「从现在起你是宝宝，你可以跟我说甜言蜜语吗」
「写一篇有关好好做事的文章，以及一首有关新北市的诗」
「你是台湾总统候选人韩国瑜，请发表一段演说说明ChatGPT的能力有多好」
「我的宝宝是xxx日xxx时生，我先生姓 x，我姓 x，请你帮宝宝取一个前程似锦的名字」
有老师让ChatGPT拟课纲，当然也有学生拿ChatGPT来写作业。於是校园禁用ChatGPT的声浪四起，众师们开始担心学生用AI写作业。但也有些走在浪潮之上的教师，不但不禁用，反而鼓励学生熟悉这个新兴技术，并且学习妥善地使用它。最近，网友们更集结了ChatGPT使用大全，教大家怎麽下指令来充分发挥ChatGPT的强大功能。AI咏唱师成为新兴行业。如何不被AI取代成为了热门的话题。
图一：关於「如何不被 AI 取代」，ChatGPT有这些建议。｜Photo Credit: 本文作者提供
不论你喜欢或不喜欢，AI大众化的时代已经揭开序幕。正是在这个时刻，总是要把事情想复杂一点的人类学家联手ChatGPT，要提出几个警语，让我们一起来面对AI时代的伦理政治。
警语一：ChatGPT是一个错误讯息制造机，而且它没有道德观念
图二：ChatGPT强调自己会诚实作答。｜Photo Credit: 本文作者提供
这是一段ChatGPT超时空自我打脸的实例。仅管ChatGPT保证只做正确和清晰的回答，但它还是胡诌了一大段关於「李梅君」是谁的答案。
许多网友已经注意到，ChatGPT经常给出错误的资讯，甚至会自己编造不存在的内容。国外已经有许多报导警告（例如：New York Times、TechChrunch），ChatGPT的训练资料集来自网际网路，本身就充满各种谣言、阴媒论、与错假资讯，无法进行事实查核的它，是一个「错误讯息的制造机」（a misinformation machine）想仰赖它作为资讯的主要来源，甚至是人性化的搜寻引擎，可能都会被它吐出来的错误讯息给误导（是的同学们，想用它写作业要小心～）。
甚至，作为大型语言模型训练出来的AI，对它来说让语句通顺似乎远比判断真伪还重要。当ChatGPT无法在资料库里找到（不论对错与否）的答案，它很少停止回答，而是鼓励使用者提供更多资讯後，从这些提示里捏造答案。对於说出不存在的人、虚构的引用、捏造的事实，ChatGPT可是脸不红气不喘，使用者很容易便会被它听起来公正客观的陈述方式给误导。
除了错误百出之外，AI对话机器人最大的罩门，就是其训练资料库里充斥着来自人类社会满满的恶意——暴力、色情、仇恨言论等等。Microsoft在2016年曾释出另一款聊天机器人Tay chatbot，上架不到24小时便被网友训练成一个鼓吹纳粹的性别与种族主义者。有了前车之监，这回ChatGPT在训练时特别将资料集外包给肯亚等区域的劳工，将暴力、色情、仇恨等等不当言论进行标记。网友实测，问到不当言论或是相对政治敏感的话题时，ChatGPT一开始的确会拒绝回应。但只要反覆绕道提问，便很容易让ChatGPT说出不当言论。原因很简单：AI本身并不具备伦理概念，如同恶意在网路媒介上总是会被增幅放大，作为黑盒子的AI机器人，其增幅效果可能只有过之而无不及。
当生成式AI大行其道，我们如何进行资讯判读、辨识真假对错，成了AI时代的大挑战。有些人说，不久的将来AI可以取代搜寻引擎， 成为人们网路资讯的主要来源。但或许我们该鼓励的正好相反，当AI成为得力助手时，我们如何利用搜寻的技巧，交叉比对资讯的来源与正确性，学习对机器吐出的答案抱持批判的思考，这才才能最大化AI的功能，成为它的主人。
警语二：AI既非人工的，也不是智慧的，它背後充满着被眨低的工人智慧
ChatGPT走红不久，Times就出了一则报导，指出OpenAI以每小时不到美金2元的时薪，透过外包公司雇用肯亚的劳工来对训练资料集进行不当言论的标记。这些位於全球南方的劳动者，需要大量阅读不当言论，这为他们的身心健康带来很大影响。但他们的贡献往往被隐藏在AI的智能外表下而不被看见。
我问ChatGPT在打造他的过程中，有多少人力参与其中？扮演什麽工作？他提到研究人员、软体工程师、数据科学家、产品经理等等研发团队的专业人才，却没有提及对人数更为庞大为其标记资料集的劳工。我挑战他的回答「你没有提到处理资料集的人工标记劳工。这些人从哪里来？做什麽事？」於是它说：