紐約市禁止在小學與中學使用 AI，父母擔憂數位危害

事件概述

紐約市教育局於本月宣布，對全市 小學與中學 實施為期一年的 AI 使用禁令。此禁令涵蓋所有面向學生的 生成式人工智慧（Generative AI）軟體，預計影響約 60 萬名 在校生。禁令的核心目的是在 AI 技術快速滲透教室前，先行評估其安全與倫理風險。

父母的數位危害焦慮

在美國，家長對 數位危害（Digital harms）日益感到不安。許多家庭已開始安裝內容監控應用程式，這類工具會即時掃描孩子的 簡訊、照片、電子郵件與聊天訊息，並在演算法偵測到可能危險的內容時發出警示。家長希望藉此防止自殺企圖、捕捉掠食者、甚至阻止校園槍擊事件的發生。

監控工具的雙刃劍

雖然上述監控工具確實在個案中發揮了 預防自殺、攔截掠食者 等正面效用，但同時也帶來副作用。常見的問題包括：

• 誤報：演算法誤判正常對話為危險訊息，導致不必要的介入。
• 信任受損：孩子感受到過度監控，可能產生對父母或學校的不信任感。
• 焦慮升高：頻繁的警示訊息會讓青少年產生過度警覺與心理壓力。

專家建議的替代方案

兒童安全研究者指出，單純依賴技術監控並非長遠之策。較佳的做法應包括：

1. 教育與媒體素養：在課堂與家庭中教導孩子辨識網路風險與正確的求助管道。

2. 多方協作：學校、家長與心理健康專業人員共同建立早期介入機制，而非僅靠自動化警示。

3. 透明的演算法設計：確保 AI 產品在使用前經過獨立審核，並提供可供家長查詢的風險說明。

未來展望

禁令的實施為全美校園 AI 監管提供了首個大型試驗田。若能在一年內收集到足夠的實證資料，未來或可制定更精細的 AI 教育指引，兼顧創新教學與兒童安全。對家長而言，除了依賴技術工具，更應主動參與孩子的數位生活，培養開放對話的氛圍，讓孩子在面對新興科技時，既能受益也能保持警覺。