ChatGPT将对我们的生活、工商业和教育产生什么影响？

聊天室GPT 20/07/2023

三个要点
✔️ 考察了ChatGPT的用途和风险，ChatGPT已经彻底改变了自然语言处理。尤其关注其在商业和教育领域的影响。
✔️ ChatGPT在节省时间和金钱的同时，也可能产生误导性结果和偏见，引发道德问题并被滥用。
✔️ 包括日本在内的多个国家正在考虑制定关于使用生成式人工智能的指南。

ChatGPT: Applications, Opportunities, and Threats
written by Aram Bahrini, Mohammadsadra Khamoshifar, Hossein Abbasimehr, Robert J. Riggs, Maryam Esmaeili, Rastin Mastali Majdabadkohne, Morteza Pasehvar
(Submitted on 14 Apr 2023)
Subjects: Computers and Society (cs.CY); Computation and Language (cs.CL)
Comments: Preprint accepted in IEEE Systems and Information Engineering Design Symposium (SIEDS) 2023

code：

本文所使用的图片要么来自论文、介绍性幻灯片，要么是参考这些图片制作的。

概述。

ChatGPT是一种大规模语言模型，能够处理各种文本生成任务。最初的GPT是 "Generative Pre-trained Transformer "的缩写，是一种用于自然语言处理（NLP）任务的通用大规模语言模型。这些模型使用网络上的大量文本数据进行训练，可以生成任何文本信息。据估计，今天的大规模语言模型已经训练了大约1万亿个字符，相当于1千万本书的内容。OpenAI一直在研究和开发这些模型，从GPT-1开始，然后是GPT-2、GPT-3、GPT-3,5，现在是GPT-4。这些模型是按顺序训练的，并在前一个模型结果的基础上进行了改进。

ChatGPT是该GPT模型的一部分，专门用于交互式文本生成。它可以与人类自然交互，并对用户输入的文本生成适当的响应。这使得ChatGPT可以用于各种应用，包括用户支持、教育和娱乐。虽然它具有改变社会工作方式的巨大潜力，但也被认为具有合理的风险，是一个重大的社会问题。

本文仔细研究了有关ChatGPT的现有文献，并对十个领域进行了考察：商业和工业、教育、科学和技术、政府和政治、医疗和医药、基础设施、环境和可持续发展、通信、艺术和文化以及生活方式和休闲、总结了ChatGPT的应用、潜力和风险。本文的重点是 "工商业 "和 "教育"，这两个领域在本文中被认为是特别重要的。

商业和工业 "中的用途和风险。

在商业和工业领域，可以有非常广泛的应用，包括运营和管理、供应链管理、商业分析、运输、人力资源、市场营销、电子商务、会计、金融、零售、房地产和保险。例如，在供应链管理方面，ChatGPT可以用于以下任务

需求预测：通过分析历史数据和市场趋势来预测产品和服务需求，从而优化库存管理和生产计划。
库存优化：分析库存数据，优化库存数量，减少缺货。可建议缩短履行订单所需时间和降低成本的方法。
供应商选择和评估：根据质量、价格、交货期和可靠性等因素确定和评估潜在供应商。
物流优化：路线优化、承运商选择和其他物流任务可以得到协助，以确保快速高效地交付货物。
风险管理：分析供应链数据以识别潜在风险，并提供降低风险的建议，例如在供应链中断的情况下识别替代供应商。

这些只是ChatGPT支持供应链管理任务的部分方式。它声称有能力快速处理和分析大量数据，从而使公司和行业能够更快地做出更好的决策并改善其运营。因此，ChatGPT可以帮助企业和行业在瞬息万变的商业环境中保持高度的竞争力，并获得一系列的收益。

另一方面，任何新事物都有风险：人工智能模型的准确性取决于输入数据，ChatGPT也不例外，存在与数据相关的风险。该报告指出，存在的问题包括依赖现有的高质量数据、结果不可靠、结果有偏差、幻觉、缺乏透明度、道德和数据隐私问题以及网络安全风险。例如，在供应链管理方面，如前所述，ChatGPT并不构成直接威胁，但有一些方面值得企业注意。

过度依赖技术：如果供应链过度依赖ChatGPT预测，就有可能丧失人的判断和决策能力；如果ChatGPT结果不准确或有偏差，供应链就可能受到不利影响。
网络安全风险：ChatGPT的运行需要大量数据，这些数据可能容易受到网络攻击。黑客可能利用ChatGPT窃取信息并操纵供应链数据。
数据偏差：ChatGPT的准确预测对供应链的成功至关重要，因此有必要仔细检查用于训练ChatGPT的数据，以确保其不存在偏差。
缺乏透明度：很难理解ChatGPT所做预测的依据。
道德问题：人们担心ChatGPT可能会影响工作、隐私等。需要仔细考虑使用ChatGPT可能对相关人员造成的潜在不利因素，并采取措施加以缓解。

为降低这些风险，公司需要在人工判断和技术之间保持平衡，采取强有力的网络安全措施保护数据免受潜在攻击，制定适当的数据治理政策，利用专家分析结果，并仔细评估数据的安全性。评估等。

教育 "的用途和风险。

在教育领域，报告提出了广泛的可能应用，如个性化课程和问题、适当的反馈和提高学习者的参与度，ChatGPT有可能成为为个人提供有效和公平学习的重要工具。例如，在教学和写作支持方面，报告指出它可以支持以下任务。

教育支持：可以制作教学材料，根据学习进度创建问题以支持学习，评估回答并提供适当的反馈。他们可以回答一般问题，帮助学生理解复杂的概念，并提供R/Python/Java等编程语言的示例。
写作支持：通过对句子结构、语法、词汇、标点符号、引文和抄袭等方面提供反馈，提高写作技能。他们还可以建议如何组织和集思广益，使论点更有说服力，提供写作风格的例子，并建议如何使句子更短或更长。

该报告指出，在教育领域，特别是儿童教育中使用人工智能技术必须以负责任的态度进行，因为它会对学习体验产生直接和重大的影响，因此需要持续和仔细的研究和观察。报告还指出，将人工智能引入教育可能会带来道德和社会威胁。它指出，种族主义、性别歧视和仇外心理等各种不平等现象可能会被放大。

过度依赖技术会降低创造力和批判性思维：研究人员、教师和学生过度依赖ChatGPT会导致创造力和批判性思维能力下降，研究方法缺乏多样性。如果学生觉得ChatGPT在替他们做事情，他们的学习积极性也会降低。
不准确或有偏见的信息：ChatGPT的回答并不总是准确的，可能会无意中强化训练数据中的偏见和成见。
缺乏人与人之间的互动，学习动力下降：虽然ChatGPT可以提供支持和反馈，但它无法取代人与人之间的互动以及与教师和导师之间个性化反馈的价值。这对学生的社交和情感发展至关重要。
技术问题：与任何技术一样，ChatGPT可能面临技术问题，如错误、服务器宕机以及与某些软件和数据格式的兼容性问题，这些问题可能会干扰和阻碍教育。
伦理问题：在学术研究中使用ChatGPT存在一些伦理问题，包括隐私问题以及与数据所有权、管理和同意相关的问题。学生和研究人员也有可能滥用ChatGPT，例如在没有适当引用的情况下复制和粘贴信息。
安全问题：在ChatGPT上存储学生成绩、考试分数和个人信息等敏感数据可能会带来安全风险，增加数据泄露的可能性。

为降低这些风险，教育工作者应强调批判性思维，以防止创造性和积极性；让学生意识到不准确或有偏见的信息的可能性；促进协作和同伴学习，以解决缺乏人际互动的问题；解决道德和安全问题为人工智能技术的使用制定明确的指导方针和政策；为可能出现的技术问题准备后备计划。

摘要

本文总结了ChatGPT的社会问题、影响和风险，重点关注工商业和教育领域。虽然ChatGPT可以节省时间和金钱，让人们更高效地做事，但也会产生误解、偏见和道德问题。因此，采取措施降低这些风险非常重要。因此，一些国家采取了谨慎的措施，比如在制定ChatGPT使用指南之前禁止使用ChatGPT。在日本，关于ChatGPT和其他生成式人工智能的研究正在进行中，2023年6月26日，政府的人工智能战略委员会决定在今年年底前制定统一的指导方针，以应对生成式人工智能的快速发展和传播。另外，文部科学省（MEXT）也于2023年7月4日发布了教育领域的指导方针《中小学教育阶段使用生成式人工智能的暂定指导方针》。

在开发人工智能的过程中，开发人员必须面对什么是人性、什么是道德、什么是偏见和歧视等问题，因为他们直接从数据中学习。此外，在考虑生成式人工智能在小学、初中和高中学生教育中的作用时，必须面对教育的目的、应具备的能力和素质以及教育本身，这是一个非常困难的讨论。

今后，包括ChatGPT在内的生成式人工智能有望进一步发展。因此，将制定和修订指导方针，并收集实例。为了确定生成式人工智能将对人类和社会产生何种影响，以及如何应对所取得的成果，需要持续进行中长期的信息收集和研究。