Üretken yapay zekâ araçlarının hayatlarımıza girmesiyle her şey değişmeye başladı. Artık tek bir komutla metinler üretilebiliyor, çeviriler yapılabiliyor, özetler çıkartılabiliyor, video ve grafikler hazırlanabiliyor. Bu özellikleri nedeniyle özellikle büyük dil modelleri (LLM'ler) ilk kez kısa sürede büyük kitleler tarafından kullanılmaya başlandı. Dolayısıyla, eğitim sistemlerinde de öğrenciler için cazip bir seçenek oldu. Artık temel eğitimden orta öğretime ve yükseköğretime kadar her eğitim kademesinden öğrenciler bu araçlara kolayca erişebildiği için görevlerini bu araçlar üzerinden tamamlayabiliyor.

Eğitim sistemleri açısından bu araçların yaygın kullanılması ile ilgili üç ciddi sorun giderek daha fazla görünür olmaya başladı. Birincisi, LLM'ler gibi üretken yapay zekâ araçlarının öğrenciler arasında yaygın kullanılmasıyla bu araçların giderek destekleyici araçlar olmaktan çıkması ve öğrenci yerine ikame araçlar olarak kullanılmasının yaygınlaşmasıdır. Üretken yapay zekâ araçlarının cazibesi öğrenciler açısından destekleyici ile yerine geçen/ikame edilen arasındaki çizgiyi kolayca aşabilmeye yol açmaktadır. Oldukça cazip seçenekler sunan bu araçlar kontrol edilmediğinde bağımlılık davranışını pekiştirebilmektedir. Özellikle ölçme ve değerlendirme sistemi hâlâ çıktı odaklıysa, öğrencinin bu araçları ikame olarak kullanmalarının cazibesi daha da artmaktadır. Öğrencinin yakalanmaması veya cezalandırılmaması ikame kullanım oranının sürekli artmasına yol açmaktadır.

İkinci risk, birinci seçenekteki şekilde kullanımının bir sonucu olarak ortaya çıkan ve öğrencilerde eleştirel düşünme becerilerinde ve hafızada görülen zayıflamadır. Bu konuda yapılan yeni deneysel çalışmalar, bilişsel yükün bu araçlara devredilmesi arttıkça eleştirel düşünme becerilerinin ve hafızanın giderek zayıfladığına işaret etmektedir. Çünkü üretken yapay zekâ araçları yalnızca bilgiye erişimi değil, düşünmenin ara adımlarını da dışsallaştırmaktadır. Dolayısıyla, eğer öğrenci sürekli sonucu tüketiyor ancak sürece katılmıyorsa bu süreçte öğrenme kapasitesi gelişmemektedir. Eğitim sistemlerinin temel iddiası öğrencilerin eleştirel düşünme becerilerini geliştirmek iken bu araçların ikame edici doğrultuda kullanım yaygınlığı eğitim sisteminin bu karakteristiğini zayıflatmaktadır.

Üçüncüsü ise birinci ve ikinci seçeneğin yaygınlaşmasıyla eğitimde öğrencinin fail olmaktan çıkma riskidir. Bir başka deyişle, öğrenmenin öznesi/faili belirsizleşmektedir. Ölçme ve değerlendirme sistemindeki boşluklar nedeniyle öğrenci öğrenmeden başarılı olarak değerlendirilebilmektedir. Eğitim sistemleri öğrenci merkezli eğitim iddiasında iken bu merkez zayıflamakta ve yerini makineye bırakmaktadır. Ölçme değerlendirme sistemleri tarihsel olarak insan-emek-ürün zincirine dayalı olarak ürün üzerinden öğrencinin emeğini değerlendirmektedir. Üretken yapay zekâ araçları ikame edici olarak kullanıldığında ve de bu çevirimi kıracak ve emeği tekrar görünür kılacak yeni ölçme-değerlendirme yaklaşımları geliştirilmediğinde yukardaki zincir bozulmakta ve insan emeği tağşiş edilerek insan/makine-ürün zinciri ortaya çıkmaktadır. Dahası, ölçme ve değerlendirmede de bu araçlar kullanıldığında hem üreten ve hem de ortaya çıkan ürünü değerlendirenin makine olması gibi garip bir durum ortaya çıkmaktadır.