Yapay Zekanın Psikoterapide Uygulanması
Günümüzde yapay zeka; otonom araçlardan kişisel asistanlara, sohbet botlarından dil çeviri sistemlerine kadar birçok alanda kullanılıyor ve psikoterapi de dahil olmak üzere hayatın diğer alanlarında kullanılması için çalışmalar yapılıyor. Psikoterapi seansları şimdilik yalnızca insan-insan etkileşimi üzerine kurulmuş olsa da yapay zekanın kullanılmaya başlanması ve insan-makine etkileşimine dayandırılması 1950’lerden bu yana tartışılmakta. Biz de bu yazımızda ilk olarak yapay zeka ve psikoterapi kavramlarını açıklayıp daha sonra aralarında kurulan ilişkiyi pozitif ve negatif yönleriyle ele alacağız. Yapay zeka ve psikoterapinin tanımlarını ve yöntemlerini anlatarak başlayalım.
Yapay zeka kısaca nedir?
Yapay zekalar, kendisine verilen bilgileri farklı şekillerde analiz ederek insanlarınkine benzer zeki davranışlar gösteren, çıkarımlar yapan ve kendisine verilen görevleri tamamlayan sistemlerdir.
Yapay zeka algoritmalarında makine öğrenmesi kullanılır. Makine öğrenmesi, yapay zeka ve veri biliminin olmazsa olmazı, aynı zamanda bilgisayar bilimleri ve istatistiğin kesiştiği noktada bulunan bir alandır. Makine öğrenmesi dediğimiz şey bilgisayar sistemlerine otomatik öğrenme yeteneği kazandırmak ile birlikte deneyimle gelişmeye ve dolayısıyla hata payını minimize etmeyi hedefleyen bir sistem. Buna bir örnek vermek gerekirse, makine öğrenmesi, kendisine verilen bilgiyi ölçer ve yeni bir sete uygulandığında doğru tahminlerde bulunur ve kararlar verir. Makine öğrenmesini dört farklı alanda inceleyebiliriz: denetimli öğrenme, denetimsiz öğrenme, yarı denetimli öğrenme ve takviyeli öğrenme.
Denetimli makine öğrenmesi girdi ve çıktı verilerinin direkt olarak algoritmaya kodlanmasıyla gerçekleştirilen bir yöntemdir (örneğin bir hastalık tanımlanır ve bir hasta incelendiğinde bu hastalığa sahip olup olmadığı ile ilgili bilgi alınır).
Yarı denetimli makine öğrenmesi, denetimli öğrenmenin etiketsiz verileri etiketlemeyi de öğrenebilen versiyonudur.
Denetimsiz makine öğrenmesinde ise yalnızca girdi bilgisi vardır. Çıktı, algoritmanın ilişkilendirmesi ile elde edilir.
Takviyeli makine öğrenmesi ise yapay zeka kendi ortamını algılar ve amacını gerçekleştirmek için en uygun hareketlerin neler olabileceğinin saptanmasını sağlar. Bir başka deyişle yapay zekayı maksimize edilmiş ödüle götürecek en kısa yolu seçmeye çalışır.
Otonom araçlardan, oyun botları, sohbet botları ve kişisel sesli asistanlara kadar olan büyük bir yelpazede ise bir takviyeli öğrenme çeşidi olan derin öğrenme (deep learning) metodu kullanılmaktadır. Psikoterapiye uygulanabilirliği konusunda en iyi aday olması sebebiyle bu yazımızda sadece derin öğrenme yöntemi üzerinde duracağız.
Derin öğrenme (deep learning) nedir?
Derin öğrenme ortamı algılamak ve de yorumlamak için insan sinir sistemine benzer bir yapı kullanılan ve bilgisayarların deneyimlerinden öğrenmesini sağlayan bir makine öğrenmesi methodudur. Bu yöntemde bir adet girdi, bir adet çıktı satırı ve sayısı kullanıldığı yere göre değişebilen gizli satırlar vardır. Bu satırlar arasında işlevsel olarak beynimizdeki nöron ağlarına benzeyen bağlantılar bulunmaktadır.
Derin öğrenme metodu kullanılırken,
1- Problem tanımlanır ve bu yöntemle çözülüp çözülemeyeceği belirlenir.
2- Eğer problem uygunsa ilgili veri kümesi tanımlanır.
3- Uygulanacak derin öğrenme algoritmasına karar verilir.
4- Daha önce tanımlanan veriler ile belirlenmiş algoritma eğitilir.
5- Eğitilen model tanımsız veriler kullanılarak test edilir.
Derin öğrenme metodunun diğer makine öğrenmesi yöntemlerinden ayrıştığı bir nokta vardır. Diğer yöntemler belli bir veri seviyesine kadar derin öğrenme yönteminden daha yüksek bir performans gösterirken veri miktarı belli bir seviyeyi aştıktan sonra performansı sabit kalmaktadır. Derin öğrenme ise performansını artırarak çalışmaya devam etmektedir. Bu sebeple, psikoterapi algoritmaları gibi daha kompleks uygulamaların hazırlanmasında çok yüksek miktarda veri işlenmesi gerektiğinden derin öğrenme metodunun tercih edilmektedir.
Peki psikoterapi nedir?
Psukhe (ruh, zihin) ve therapeia (iyileştirme) kelimelerinin bir ara gelmesiyle oluşan psikoterapi, duygusal ve davranışsal sağlığın gelişmesi ve korunması için uygulanan tekniklere verilen genel addır. Sonuçta psikoterapi ile birlikte amaçlanan ruhun iyileşmesi, görünmeyenin düzeltilmesidir.
Bilişsel Davranışsal Terapi (CBT)
Bilinçsel davranışsal terapi özellikle anksiyete bozuklukları, depresyon, davranış bozuklukları ve dışa atım bozukluklarında kullanılan bir terapi yöntemidir. Ancak yararlanıldığı alanlar bunlarla sınırlı kalmayıp psikiyatrik bozuklukların geniş bir alanında da yaygındır. Temel olarak insan davranışlarını bilişsel ve davranışsal kuram ile açıklamaya çalışır. (Özcan, Çelik, 2017) Bu yöntemde ilk olarak hastaya tedavinin mantığı anlatılır, daha sonra bu hastalığın kişide yarattığı sıkıntılar üzerine hastayla birlikte odaklanılır ve bu kısıtlamaların kişinin hayatından nasıl çıkarılabileceği saptanarak bunun üzerine çalışılır.
Mevcut sistemde kullanılan çevrimiçi psikoterapi botlarının çoğunda bu yöntem kullanılmaktadır ve bu yöntemin kullanılması daha sonradan değineceğimiz yapay zekada psikoterapi kullanılması alanında geliştiricilere kolaylıklar sağlamaktadır.
İnternet odaklı psikoterapi uygulaması olan Woebot’un yirmi yıldan fazla süredir incelediği verilere ve yapılan bazı araştırmalara göre internet odaklı bilişsel davranışsal terapiler, insan terapistler tarafından gerçekleştirilen seanslar kadar etkili olmaktadır.
Yapay Zekanın Psikoterapide Uygulanması Fikri
Yapay zekânın son zamanlarda her alanda kullanılmasıyla birlikte psikoterapinin yapay zekâ aracılığıyla uygulanabilirliği 1965’te Eliza programı girişiminden yıllar sonra tekrardan sorgulanmaya başlanmıştır. Yapılan bazı araştırmalar insanların yapay avatarlara, insanlara verdiğine benzer şekilde bir tepki verdiğini ve utanç verici buldukları hikayeleri paylaşmaya daha açık olduklarını göstermiştir. Bu araştırmalar psikoterapide yapay zeka kullanımın bir fark yaratabileceğinin göstergesidir.
Yapay zekalarda kullanılacak algoritmaların yol açabileceği sorunları önlemek, bu teknolojiyi hayatımıza sokmanın ilk önemli parçasıdır. Bunun için ilk olarak ileride makine öğrenmesi metodlarıyla değerlendirmesi için girilecek veriler çok hassas ve hataya mahiyet vermeyecek düzeyde kesin olmalıdır. Buna ek olarak yapay zekanın spesifik bir hastalığın tedavisinde kullanımı için bile algoritmaya çok yüksek miktarlarda hatasız veri girilmelidir. Eğer yapay zekanın terapistlerin yerine kullanılması düşünülürse bu miktar katlanarak artmaktadır. Sonuç olarak seanslarında kullanılacak robotların kodlanması birçok açıdan zordur. Peki neden bu kullanım hayata geçirilmeye çalışılmaktadır, bunun ne gibi avantajları olabilir?
Neden Yapay Zeka Psikoterapide Kullanılmaya Çalışılıyor?
Yapay zeka, her ne kadar yakın bir zamanda insansız psikoterapiye geçişi sağlayacak olmasa da şimdiden saptanmış birçok etkili ve kimi zaman insanlardan üstün taraflara sahiptir. Bunlardan ilki öngörme modelinin daha gelişmiş olması. Burada daha gelişmişten kastettiğimiz şey insan yönlendirmesi olmadan belli modelleri ve örüntüleri takip ederek temel istatistik metodlarına göre büyük bir avantaj sağlıyor olmasıdır. Aynı zamanda, değişkenler arasındaki gözden kaçması muhtemel bağlantıları yakalama konusunda veri analistlerine göre üstün bir konumdadır, bununla birlikte yapay zekanın kullanıldığı durumda aslında birbiriyle çok alakası olmayan verilerin gereksiz yere ilişkilendirilmesinin önüne geçilmiş de olacaktır. Başka bir artıya gelecek olursak, bu da makine öğrenmesi sayesinde klinik popülasyonun belirlenmesi ve bunlar içinde benzerliklere dayalı alt gruplar oluşturulması konusunda bizlere büyük bir yardım sağlamasıdır. Ayrıca, yine makine öğrenmesi sayesinde kişiye özel tedavi konusunda da önemli bir yol kat edilebilir.
Eliza Doctor Uygulamasının Tarihi ve Günümüzdeki Uygulamalar
Yapay zekanın psikoterapi alanındaki kullanımının ilk örneği 1966’da Joseph Weizenbaum tarafından hazırlanan Doctor-Eliza programıdır. Bu yapay zekanın yapılış amacı yapay zekada doğal dil iletişimini sağlamak ve bunu yaparken ortam olarak psikoterapi seanslarını kullanmaktı. Bir makinenin insandan ayırt edilemediğini yani o yapay zekanın başarılı olduğunu göstermenin yolu olarak bilinen Turing testini de geçen bu yapay zekanın gerçek seanslarda kullanılması fikrini ortaya atan bazı bilim insanları vardı. Bu bilim insanları fikirlerini Rogerian tezine dayandırıyorlardı. Bu teze göre terapi seanslarını terapist değil hasta yönlendirir. Bu yüzden onlara göre gerçek psikoterapi seanslarında bilgisayarlı kullanmanın bir sakıncası yoktu. Ancak Weizenbaum ve geride kalan diğer bilim insanları bunun etiğe aykırı olduğunu düşünüyorlardı ve bu yöntemi rafa kaldırdılar.
Günümüzde ise bu yöntem hala tek başına psikoterapi seanslarında kullanılmıyor, ancak günümüzde yapay zeka ve psikoterapi birleşiminin farklı örnekleri bulunmakta. Bu örnekleri ikiye ayırabiliriz:
İlki internette karşılaşabileceğiniz Woebot, AI-therapy gibi website ve uygulamalar. Bu uygulamalar kullanıcılarına hayatlarını düzene sokma, sanal ortamda sohbet robotlarıyla konuşma ve seanslar gerçekleştirebilme imkanı sağlamaktadır. Bu sohbet robotlarının çalışma süreçleri doğal dilde anlatılan soruyu/sözü almak, “Attribute, Lifespan, Score, Resolved Query, Trigger” gibi filtrelerden geçirerek cevap verilecek soruları ayıklamak, depolamış olduğu veriler ve farklı makine öğrenmesi metodlarıyla -çoğunlukla derin öğrenme- değerlendirmek, cevap oluşturmak ve bu cevabı doğal dil yoluyla kullanıcıya iletmektir.
İkinci olarak ise bazı belirli hastalıkların tedavisinde hastalara mental olarak yardımcı olabilmek için yapay zeka ile çalışan bazı terapötik robotlar var. Örneğin PARO adı verilen oyuncak fok balığı, alzheimer ve demans hastalarına yardımcı oluyor. Bu örneklerden de anlaşılabileceği gibi yapay zekanın psikoterapide kullanımı günümüzde sadece belli hastalıklarla sınırlı ve 1966’dan bu yana seanslarda terapist olarak kullanılabilecek seviyeye ulaşamadı.
Psikoterapide Yapay Zeka Kullanımının Yol Açabileceği Olası Sorunlar
Diğer bir yandan psikoterapinin yapay zekâ ile uygulanmasının uygun ve etik bulunmadığı bazı alanlar da vardır. Zira psikoterapi görünmeyeni tedavi ederken yapay zekâ net veriler ile işlem yapabilmektedir. Söz konusu psikoterapi olduğunda bir insanın gözlem ve veri değerlendirme yeteneğine ihtiyaç vardır. Çünkü fiziksel sağlık söz konusu olduğunda belirli veriler belirli sorunları gösterebilir ancak ruh sağlığında aynı veri aynı sonuca ulaştırmayabilir. Böylece yapay zekânın oluşan her durumu teşhis etmesi mümkün olmayabilir, örneğin yapay zekâ elindeki verilerle birlikte kişinin travma sonrası stres bozukluğu yaşadığını tespit edebilir ancak travmanın kaynağını bulmada zorlanabilir. Daha ötesinde uyuşturucu bağımlıları ve eş bağımlılar üstün manipülasyon yeteneğine sahiptir. Bu kişilerin tedavisinde yapay zekanın manipüle edilmesi ve psikoterapinin işe yaramaması söz konusu olabilir.
Bir diğer olası sorun kişisel verilerin güvenliği konusunda ortaya çıkar. Bir insan terapistin hastasıyla ilgili bilgi paylaşması -yasalarda belirtilen bazı durumlar dışında- yasaktır. Ayrıca insan beyninin rutin haline dönüşen işlerin yapılması durumunda unutma oranının yükseldiğini de biliyoruz. Bunlar bilgilerimizin yayılması ve kullanılması konusunda güvenliğimizi sağlayan faktörlerdir. Ancak seanslarda yapay zekanın kullanılması bu verilerin kolaylıkla havuzlarda toplanmasına yol açar. Bu durum ise paylaştığımız kişisel bilgilerin otorite sahibi olan veya olmayan kişiler tarafından incelenebilir olmasına ve hatta ileriki aşamalarda kullanılıp satılmasına yol açabilir. Ayrıca eğer bu durum psikoterapide yaygın olarak yapay zekanın kullanılması aşamasına gelirse bu yapay zekaların kimler tarafından kodlandığı da büyük önem taşımaya başlar. İnsan beyninin manipülasyona açık olması nedeniyle tahmin edemeyeceğimiz boyutlarda felaketlerle karşılaşabiliriz. Bu durumda ciddi etik kurallar konulup yasalar çıkarılmadan bu kullanımı hayata geçirmek sınırlarımızın ihlal edilmesine ve zihnimizin başkaları tarafından yönlendirilmesine izin vermekle eşdeğerdir.
Hastalık bazlı ortaya çıkabilecek sorunlar
Yapay zekanın psikoterapide uygulanma yöntemi ve hastalara nasıl yaklaşılması gerektiği hastalıktan hastalığa değişebilmektedir. Yapay zeka şu anda bazı hastaları rahatlatmak için kullanılmakla beraber aynı zamanda bazen hastalığa sahip olan kişilerin ileride nasıl tepkiler vereceğini tahmin etmekte de kullanılan yöntemlerden bir tanesi.
Otizm
Otizm, iletişim problemleri, tekrarlama, fiziksel rehabilitasyonlarda ve öğrenmede güçlükler ve hayal etmede zorluklara neden olan nörogelişimsel bir bozukluk olarak tanımlanabilir. Bazı ileri otizm durumlarında tehlikeli kendine zarar verici davranışlar gözlenebilir. ASD (autism Spectrum Disorder) tanısı konmuş hastalarda robotlarla etkileşimde bulunurken taklit etme, göz teması ve motor kabiliyetlerinde artış gözlemlenmiştir, bu otizmli bireylerde geliştirilmesi zor davranışlar olarak tanımlanmıştır. Otizmin sebebi şu anda bilinmemekle beraber tam tedavi yöntemi de bilinmemektedir. Ancak denenen ve ilerleme kaydeden belli tedavi yöntemleri vardır; ilaçlar, kaçınma terapisi, SCERTS, TEACCH (Treatment and Education of Autistic and Related Communication Handicapped Children), müzik terapisi, konuşma ve dil terapisi, akupunktur masaj terapisi vb. yer almaktadır. Otizmde robotik kullanma araştırmaları şu anda oyun, basit kelime konuşma, fiziksel terapi için motor fonksiyonları, yaratıcılık, dışavurumculuk ve diğer beceriler üzerine odaklanmakta.
1. Daniel J Ricks and Mark B Colton’a göre otistik çocuklar tekrarlama, göz teması, dikkatini verme gibi becerilerde eğlenceli robotlarla etkileşime girdikleri zaman büyük bir gelişme gözlemlediler, bu yüzden robot yardımlı terapilerin otizmi tedavi etme konusunda büyük bir potansiyeli olduğunu vurgulamaktadırlar.
2. Sandra Costa’nın yönettiği takım, LEGO Mindstorms içerisindeki hümonoidleri kullanarak otistik çocukların sosyal ilişki davranışlarını başarılı bir şekilde tedavi etti. Araştırma, günlük hayatlarındaki değişikliklere karşı çok hassas olan ve basit sosyal davranışlara tepki veren gruplardan oluşuyordu.
3. Yale Üniversitesi’nde bir grup, ESRA robotunu kullanarak basit yüz ifadelerini oluşturdu ve böylelikle taklit ile tedavi etme yöntemini otizmde kullandılar. Limitli fonksiyonlara rağmen robotun deneydeki her çocuk tarafından kabul edildiğini kanıtladılar. Buna ek olarak otizm tedavisinde çok önemli olan göz temasının çocuklarlar ve robotlar arasında gerçekleştiğini gösterdiler. Göz teması dışında diğer ulaşın sonuçlar belirtilmemiştir.
4. K. Dautenhahn and A. Billard, Aurora projesi ile birlikte Robota isimli robot bebeğin otizm tedavisinde kullanılma potansiyelini ortaya koydular. Bu araştırma taklit ile öğrenme tekniğinin önemini ortaya koyuyor. Çocuğun açıkça öğretilmesi yerine kendi başına keşfetmesi ve ilişki becerilerini ortaya çıkarmaya odaklanıyor. Robota önceden kaydedilmiş şarkılara dans etme, jestleri yapma ve taklit etme yeteneklerine sahip.
5. Otomatik modüler robotlarla odaklanma ve göz teması ulaşılırken, yarı-otomatik robotlarla fiziksel rehabilitasyon ve motor becerilerine ulaşıldı. Danimarka Teknik Üniversitesi’nde yapılan bir araştırma otistik çocukları tedavide kullanılmak üzere eğlenceli bir araç olarak modüler interaktif tuşlar geliştirildi, ve bununla beraber fiziksel motor kabiliyetleri üzerine yoğunlaşıldı.
6. “Follow me” görevi uluslararası robotik yarışmalarında tanınmıştır. Robot öncelikle yüzü tanımlar ve sistemine kaydeder. Emir alındığı zaman robot özneyi takip eder. Otizm tedavisinde kullanılan bu araştırmanın detaylı analizi otizmli bireylerin el ve bacak hareketlerindeki gelişme üzerine oldukça az odaklandı.
7. Brain — computer interface (BCI) Beyin-bilgisayar arayüzü (BCI)’nin yeni jenerasyon insan-bilgisayar arayüzü (HRI) olması bekleniyor. Bir sürü HRI teknikleri robotic ve yapay zeka alanlarının içinde sayılsa da BCI araştırmaları beyin dalgalarını kullanarak bir üst seviyeye çıkarıyor. Birkaç on yıldan beri konuşma ve hareket becerisi olmayanlar için BCI içeren cihazlar araştırma grupları tarafından oldukça fazla dikkat çekti. Hızlı Seri Görsel Sunum (RSVP) ‘un üç bileşeni (görsel presentasyon, EEG very yakalama ve karar verme mekanizması) odaklanılmış mektubu yazma görevini tamamlamak için kullanılıyor. Araştırmacılar deneyde bulunan sağlıklı bireylerle maksimum sonuç olarak %95 kesinliğe ulaşabilmişlerdir.
Son on yıllarda yapılan araştırmalar, ASD’li bireylerin VR, AI destekli teknolojiler gibi araçlara ilgili olduklarını, ve bu araçların hem klinik hem de ev ve okul gibi günlük ortamlarda kullanışlı olduklarını ortaya koymuş. ASD’li brieyler yaşıtlarıyla geçinmekte problem yaşamakla beraber, artırılmış gerçeklik ortam sistemleri ve bilgisayarlarla etkileşimde bulunmayı tercih ediyorlar. Bu da teknoloji bazlı araçların ASD’li bireylerin sosyal becerilerini geliştirmelerine yüz ifadelerini öğrenmekte etkili bir araç olduğunu gösteriyor. Araştırmalara göre tam kanıtlanmamış olsa da CAS/CVAT tarzı araçlar sayesinde seçilmiş bireylerin davranışları eğitilmesinde veya modifiye edilebilmesinde istatistiksel doğrulamayla önemli bir gelişme gözlemlenmiştir.
VR PTSD
STRIVE programı, SM stress direncini artırmaya ve aynı zamanda stres tepkisini araştırmak için VR teknolojisinden yararlanarak yüksek kontrollü laboratuvar ortamı tasarladı. Bu alandaki gelişmeler, savaşa bağlı stress bozukluğunu ve askeri eğitimin etkilerinin araştırılmasını büyük ölçüde etkileyebilir. Ayrıca STRIVE, askerlik gibi bazı meslek grupları için gerekli olan psikolojik değerlendirme testlerinde daha güvenilir bir sonuç elde etmek amacıyla uygulanabilir.
Çocuklarda PTSD tanısı
Yapılan son araştırmalara göre cinsel tacize uğramış çocuklarda PTSD ve depresyon tanısı koymada CADSS %99.2 kesinliğe ulaşmıştır. Psikiyatrik değerlendirmelerdeki verileri kullanan sistem, erken taciz-sonrası periyotta teşhis konusunda kolaylıkla kullanılabileceği ortaya konmuştur. Bu sistemin geliştirilmesindeki en önemli etken, uzmanlara danışanları konusunda karar vermede, hızlı teşhis konulmasında ve psikiyatrik takip konusunda da yardımcı olmasıdır.
Sosyal anksiyeteye sahip insanlar
Bilişsel davranış terapisi (CBT), sosyal anksiyete sahip insanlar için yararlı bir tedavi yöntemi olsa da bir çok hasta bu tedaviye yeterince tepki vermiyor ve önemli bir kısmında da tedavi bittikten sonra bu hastalık nüksediyor. Bu yüzden uzun süreli klinik tepkisini tahmin edebilmek psikoterapi sürecinde önem kazanıyor. Bir araştırma sosyal anksiyeteye sahip hastaların uzun süreli tedavinin sonuçlarının internet bazı bilişsel davranış tedavilerinin (iCBT) nöral ön göstericilerini değerlendiriyor. 26 katılımcı 13 hafta boyunca dikkat modifikasyon odaklı iCBT tedavisine tabi tutuldular. Tahminleri kişisel seviyede yapan denetimli motif tanımlama metodu olan yardımcı vektör makineleri (SVMs), uzun dönem tedaviye tepki verenler ve vermeyenleri ayırmak için, kendilerine karşı olan kritik karşısında sahip oldukları kan oksijen seviyelerini (BOLD) karşılaştırmak üzere eğitildi. 1 yıl sonraki takip esnasında öngörüler %92 kesinliğe ulaştı.
Yazımızda da belirttiğimiz gibi psikoterapide yapay zeka kullanımının sağlayacağı önemli avantajlar, aynı zamanda da yol açabileceği bazı sorunlar var. Şimdilik bu uygulama bize uzak gibi görünse de teknolojinin her alanında olduğu gibi bu alanında da ilerlemelerin hızını kestirmek kolay değil. Ortaya çıkabilecek sorunlara getirilecek bazı çözüm önerileri ile her an bu teknolojiyi yaklaşık yüz yıllık bir çalışmanın ürünü olarak hayatlarımızda bulabiliriz.
Yazarlar:
Deniz Başar, Nurperi Berfin İskenderoğlu, Yaren Eğdemir, Derin Aktaş
Kaynakça:
Fiske A., Henningsen P., & Buyx A. (2019). Your robot therapist will see you now: Ethical implications of embodied artificial intelligence in psychiatry, psychology, and psychotherapy. JMIR, 21(5). DOI: 10.2196/13216
Chechile, R. A. (1987). Trace Susceptibility Theory. J. Exp. Psychol. Gen. 116, 203–222. Woebot research: Apurva Joshi 2019
Özcan Ö. & Çelik G. (2017). Çocuk ve ergenlerde psikoterapiler, psikoterapötik yaklaşımlar. Türkiye Klinikleri. 3(2), 115–120.
Süzen, A. A. & Kayaalp, K. (2018). Derin öğrenme ve Türkiye’deki uygulamaları. İKSAD. ISBN: 978–605–7510–53–2
Aafjes-van Doorn, K., Kamsteeg, C., Bate, J., & Aafjes, M. (2020). A scoping review of machine learning in psychotherapy research. Psychotherapy Research. https://doi.org/10.1080/10503307.2020.1808729
Horn, R. L., & Weisz, J. R. (2020). Can Artificial Intelligence Improve Psychotherapy Research and Practice? Administration and Policy in Mental Health and Mental Health Services Research, 47(5), 852–855. https://doi.org/10.1007/s10488-020-01056-9
Joshi A. (2019). How AI is changing the future of psychotherapy. https://medium.com/analytics-vidhya/how-ai-is-changing-the-future-of-psychotherapy-ef5c496bb217
Lateef Z. (2020). Types of artificial intelligence you should know. https://www.edureka.co/blog/types-of-artificial-intelligence/