人工智能教育應(yīng)用的倫理與限制

人工智能技術(shù)在各行各業(yè)的應(yīng)用，促進了技術(shù)變革和產(chǎn)業(yè)升級，有力地推動了數(shù)字中國和現(xiàn)代化建設(shè)，也為促進教育數(shù)字化轉(zhuǎn)型提供了強大動力。習近平總書記在致國際人工智能與教育大會的賀信中指出，中國高度重視人工智能對教育的深刻影響，積極推動人工智能和教育深度融合，促進教育變革創(chuàng)新。

2022年11月，基于人工智能的聊天工具ChatGPT上線僅兩個月，活躍用戶超過了1億。ChatGPT能根據(jù)上下文理解用戶輸入的信息，幫助用戶生成問題的解決方案，如寫論文、編代碼、當客服等。當其逐漸應(yīng)用到教與學的過程中，出現(xiàn)了如人機協(xié)同教學、個性化學習、智能化評價、輔助學術(shù)研究等典型應(yīng)用。但是，應(yīng)用中的倫理問題，如學術(shù)不端、數(shù)據(jù)泄露、社會偏見、教育價值偏頗等，逐漸浮現(xiàn)并產(chǎn)生了負面影響。因此，如何在充分發(fā)揮人工智能教育應(yīng)用價值的同時，有效規(guī)避其中的倫理風險亟待探討和解決。

    ChatGPT的教育應(yīng)用助力學與教變革

ChatGPT的應(yīng)用有利于促進學生的個性化學習。ChatGPT能夠為學生提供個性化的自適應(yīng)學習體驗，通過ChatGPT的自然語言處理技術(shù)，將學生提出的問題轉(zhuǎn)化為結(jié)構(gòu)化的數(shù)據(jù)，并將其與相關(guān)知識庫進行匹配，提供最優(yōu)解答，并且ChatGPT會記錄每一次的問答，針對學生的問題進行分析，深入了解學生的學習習慣、學習水平等從而使學生可以獲得個性化和高效的學習指導，提高學生的學習效率。

ChatGPT的應(yīng)用有助于推動教師的自動化教學。ChatGPT可以與教師實現(xiàn)協(xié)同工作，輔助教師進行課程設(shè)計和材料生成，為教師生成有針對性的學科知識、教學材料、教學大綱、教學案例和教學策略等。通過與ChatGPT進行模擬課堂對話，教師可以更好地了解學生的問題，提高課堂教學的靈活性。在課后教師可以使用ChatGPT對學生上課的提問與回答進行教學診斷，幫助教師了解學生的學習情況、困難，及時調(diào)整教學策略和內(nèi)容。ChatGPT會自動對學生的作業(yè)或試卷進行評分和批改，教師可以快速而準確地對學生的作業(yè)和試卷進行評分和批改。

ChatGPT的應(yīng)用有益于輔助學術(shù)研究。ChatGPT可以為研究者提供模型預(yù)測和數(shù)據(jù)分析的支持。

研究者提供相關(guān)數(shù)據(jù)，這些數(shù)據(jù)可以包括實驗數(shù)據(jù)、問卷數(shù)據(jù)、統(tǒng)計數(shù)據(jù)等，ChatGPT將使用自然語言處理技術(shù)分析這些數(shù)據(jù)，從中發(fā)現(xiàn)有價值的信息，并進行數(shù)據(jù)分析和模型預(yù)測，之后ChatGPT將提供分析報告，其中包括數(shù)據(jù)可視化展示、結(jié)果說明和推薦建議等內(nèi)容，讓研究者更加便捷地了解數(shù)據(jù)和模型的特征、趨勢。最后，研究者可以基于分析結(jié)果進行進一步的科研探索和實驗研究，同時對模型和數(shù)據(jù)進行優(yōu)化和改進，從而促進科研工作的深入開展。

    ChatGPT應(yīng)用引發(fā)的教育倫理問題亟待破解

教師和學生在應(yīng)用ChatGPT的過程中產(chǎn)生了亟待解決的倫理問題，包括數(shù)據(jù)泄露、算法偏見與歧視、學術(shù)不端、教育價值偏頗、人文關(guān)懷缺失等，這些問題給教育的可持續(xù)發(fā)展帶來了很大的挑戰(zhàn)。

數(shù)據(jù)泄露有可能引起學生權(quán)益受損。ChatGPT需要處理與存儲大量數(shù)據(jù)，這些數(shù)據(jù)存在被泄露的風險。在學習、教學與評價場景中，學生、教師與ChatGPT對話中可能涉及個人隱私信息、學術(shù)記錄、行為模式、學生成績、班級信息與答題信息等。由于技術(shù)漏洞、相關(guān)人員缺乏安全意識、黑客攻擊等使這些數(shù)據(jù)的安全不能得到保障，可能會導致被未經(jīng)授權(quán)的人員訪問、篡改或濫用。如果不采取相應(yīng)措施來規(guī)避風險，將會給學生與教育機構(gòu)帶來嚴重的后果，包括個人信息被利用引來學生被詐騙或騷擾、對學生的學業(yè)產(chǎn)生負面影響、學校聲譽受損從而家校關(guān)系惡化等。

算法不透明或可導致教育偏見與歧視。ChatGPT在算法設(shè)計與調(diào)整時，可能存在一定的偏見。由于算法設(shè)計人員本身的偏見或盲區(qū)，或收集的語料本身存在的如種族、地區(qū)等偏見，ChatGPT的輸出也會受到影響。若算法不透明，我們無法判斷其作出決策的依據(jù)，也無法得知其中是否存在隱含偏見。學生與ChatGPT進行知識問答時，ChatGPT可能會給出不準確的回答，或者以不當?shù)姆绞揭龑W生學習和行為，影響學生的學習效果和公平性，加劇數(shù)字技能鴻溝甚至損害教育的公平性。

過度依賴或可導致學術(shù)不端與教育價值偏頗。ChatGPT可以根據(jù)研究任務(wù)生成說服性強且有一定邏輯的文本，若濫用可能產(chǎn)生剽竊、抄襲等學術(shù)不端問題。ChatGPT在一定程度上可以幫助學生提升學習效率，但學生若對其呈現(xiàn)的結(jié)果不加批判地全盤接受，會導致思維的惰化，從而其影響全面發(fā)展。長此以往，學生的元認知、創(chuàng)新性思維、批判性思維、獨立解決問題的能力均可能受到不同程度的損害，這與教育“培養(yǎng)全面發(fā)展的人”背道而馳。同時，在教學中，若教師過分依賴ChatGPT，在教育中忽視和缺失了人文關(guān)懷的情感教育，也不利于培養(yǎng)學生的健全人格與身心健康。

    應(yīng)對ChatGPT教育應(yīng)用倫理問題的策略

規(guī)范開發(fā)人工智能教育應(yīng)用場景。ChatGPT具有強大的文本生成能力，可能的應(yīng)用場景包括教、學、管、考、評、測、研等諸多方面，學校可以加強應(yīng)用場景的規(guī)范開發(fā)，明確人工智能技術(shù)的育人價值，從教學全流程、全要素、全業(yè)務(wù)的角度深度思考，將智能技術(shù)與教學深度融合，打造典型的應(yīng)用模式，破解教育和教學的核心問題，從而塑造學校人工智能教育應(yīng)用的特色場景。

明確制定人工智能教育應(yīng)用限度。正確認識ChatGPT等人工智能的功能特點、核心價值，謹慎處理其潛在風險。人工智能教育應(yīng)用過程中，在數(shù)據(jù)采集、數(shù)據(jù)篩選、數(shù)據(jù)處理、數(shù)據(jù)應(yīng)用等方面，容易出現(xiàn)個人信息泄露、數(shù)據(jù)安全受損、育人價值偏頗等問題。在應(yīng)用過程中，從數(shù)據(jù)的全生命周期角度，需明確應(yīng)用的具體限度，指導教師和學生在安全可信的前提下合理使用ChatGPT等人工智能，確保數(shù)據(jù)安全，保證教育的育人價值不出偏頗。

提高師生的人工智能素養(yǎng)和倫理意識。教師和學生的人工智能素養(yǎng)是將新一代人工智能技術(shù)融入教和學的基礎(chǔ)，而倫理風險意識則是保證師生安全可靠應(yīng)用人工智能技術(shù)的前提條件。為提高師生的人工智能素養(yǎng)和倫理意識，組織開發(fā)人工智能教育應(yīng)用與倫理意識相關(guān)課程和培訓，并將相關(guān)內(nèi)容滲透到各科課程中去，讓學生了解智能技術(shù)的應(yīng)用可能帶來的倫理風險。同時可引入人工智能檢測工具，建立相應(yīng)的監(jiān)督和管理機制對學生的學術(shù)行為進行監(jiān)督，對學術(shù)不端行為進行懲處。

強化學生的高階思維能力培養(yǎng)。ChatGPT等生成性人工智能對學生的邏輯思維、提問能力、批判性思維、協(xié)作能力、溝通能力等提出了新的要求，只有具備了這些高階思維能力，學生才能與ChatGPT等人工智能應(yīng)用形成良性的人機協(xié)同，促進自身的全面發(fā)展。要充分利用智能工具，推動教學理念更新、課堂范式轉(zhuǎn)型、教學模式轉(zhuǎn)變，推動學生高階思維能力的培養(yǎng)，讓學生能夠在未來復(fù)雜和不確定的世界中詩意地生存。

（作者楊俊鋒系杭州師范大學經(jīng)亨頤教育學院教授、教育部教育信息化戰(zhàn)略研究基地［北京］副主任，陳睿寧系杭州師范大學研究生。本文系國家社科基金重點課題“人工智能教育場景應(yīng)用的倫理與限度［ACA220027］”的成果）

《中國教育報》2023年05月13日第4版