Yapay Zekâ Yönetim Sistemi Eğitimleri

ISO/IEC 42001 Yapay Zekâ Yönetim Sistemi Eğitimleri

ISO/IEC 42001 eğitimleri; yapay zekâ sistemlerini geliştiren, sağlayan veya kullanan kuruluşların yönetim sistemi yaklaşımını doğru anlaması, yapay zekâ kaynaklı risk ve etkileri sistematik biçimde yönetmesi ve standardın şartlarını günlük süreçlerine uyarlaması için hazırlanır.

TOEM Kalite olarak eğitim yaklaşımımızı yalnızca standart maddelerinin anlatılmasıyla sınırlamıyoruz. Katılımcıların kendi yapay zekâ kullanım senaryolarını, paydaşlarını, veri kaynaklarını, modellerini, tedarikçilerini, insan gözetimi mekanizmalarını, karar süreçlerini, şeffaflık ihtiyaçlarını, performans göstergelerini ve iyileştirme alanlarını değerlendirebildiği uygulamaya dönük bir öğrenme modeli benimsiyoruz.

Teklif Al İletişime Geç

ISO 42001 Eğitimi Nedir?

ISO/IEC 42001 Eğitimi, Yapay Zekâ Yönetim Sistemi standardının yapısını, temel kavramlarını ve uygulama beklentilerini açıklayan kurumsal bir gelişim programıdır. Eğitim; yapay zekâ sistemleri geliştiren, bu sistemleri ürün veya hizmetlerinde kullanan, üçüncü taraf yapay zekâ çözümleri tedarik eden ya da yapay zekâ destekli karar süreçleri işleten kuruluşlar için farklı derinliklerde planlanabilir.

ISO/IEC 42001 yalnızca politika hazırlamaya veya denetim öncesi kayıt toplamaya yönelik bir standart değildir. Yapay zekâ yönetişimi; kuruluş bağlamı, liderlik, politika, roller, risk ve fırsatlar, yapay zekâ sistemi etki değerlendirmesi, veri yönetimi, yaşam döngüsü kontrolleri, üçüncü taraflar, şeffaflık, insan gözetimi, olay yönetimi, performans değerlendirme, iç tetkik, yönetimin gözden geçirmesi ve iyileştirme başlıklarının birlikte ele alınmasını gerektirir.

Etkin bir eğitim programı sonunda katılımcıların standart şartlarını ezberlemek yerine, her şartın kendi kuruluşundaki karşılığını yorumlayabilmesi beklenir. Örneğin yapay zekâ politikası bulunması tek başına yönetişimin etkin olduğunu göstermez. Politikada belirtilen ilkelerin karar mekanizmalarına, proje yönetimine, veri kullanımına, model seçimine, tedarikçi kontrollerine, insan gözetimine ve izleme faaliyetlerine yansıtılması gerekir.

ISO 42001 Eğitiminin Amacı

ISO/IEC 42001 eğitimlerinin temel amacı, Yapay Zekâ Yönetim Sisteminin kuruluş içinde anlaşılmasını ve uygulanmasını desteklemektir. Eğitim sonunda katılımcıların kendi görev alanları ile yapay zekâ sistemlerinin güvenilirliği, hesap verebilirliği, şeffaflığı, performansı ve paydaşlar üzerindeki etkileri arasındaki bağlantıyı kurabilmesi hedeflenir.

ISO 42001 Eğitimine Kimler Katılmalıdır?

ISO/IEC 42001 eğitimi, yapay zekâ yönetim sistemi içinde doğrudan veya dolaylı sorumluluğu bulunan çalışanlara yöneliktir. Katılımcı profili seçilirken yalnızca bilgi teknolojileri veya veri bilimi ekipleri dikkate alınmamalıdır. Hukuk, uyum, risk, insan kaynakları, satın alma, kalite, bilgi güvenliği, iç denetim, ürün yönetimi ve üst yönetim de yapay zekâ sistemlerinin etkilerini ve yönetişimini doğrudan etkileyebilir.

ISO 42001 Eğitim Türleri

ISO/IEC 42001 eğitimleri, katılımcıların görevleri ve kuruluşun ihtiyaçları doğrultusunda farklı seviyelerde planlanabilir. Farkındalık eğitimi ile iç tetkik eğitiminin amacı aynı değildir. Benzer biçimde sistemi kuracak bir ekip için gereken derinlik, yalnızca yapay zekâ araçlarını kullanan çalışanlardan farklıdır.

Temel eğitimlerde ortak dil oluşturmak ve farkındalık geliştirmek ön plandadır. Uygulama eğitimlerinde politika, süreç, kayıt, risk ve kontrol yapısının kurulması ayrıntılı biçimde ele alınır. İç tetkik eğitimlerinde ise tetkik programı, soru hazırlama, görüşme, örnekleme, kanıt değerlendirme, bulgu yazımı ve takip faaliyetleri üzerinde durulur.

ISO 42001 Standardının Yapısı Nasıl Ele Alınır?

ISO/IEC 42001 eğitimi, standardın bölümlerini birbirinden bağımsız konular olarak değil, yönetim sisteminin birbiriyle ilişkili parçaları olarak ele alır. Kuruluş bağlamı, liderlik, planlama, destek, operasyon, performans değerlendirme ve iyileştirme arasındaki bağlantı açıklanır.

Kuruluşun yapay zekâ sistemlerindeki rolünü, kullanım amacını, iç ve dış bağlamını ve ilgili taraflarını doğru tanımlamadan risk değerlendirmesi veya kontrol seçimi yapmak mümkün değildir. Benzer biçimde üst yönetimin politika yayımlaması yeterli değildir; rollerin belirlenmesi, kaynakların sağlanması, hedeflerin izlenmesi ve önemli kararların gözden geçirilmesi gerekir.

Operasyonel kontroller; yapay zekâ sisteminin yaşam döngüsü, veri kaynakları, model geliştirme veya tedarik yöntemi, kullanım bağlamı ve etkileri dikkate alınarak seçilir. Performans değerlendirme sonuçları ise iç tetkik, yönetimin gözden geçirmesi ve iyileştirme faaliyetlerine girdi oluşturur.

Yapay Zekâ Yönetişimi ile ISO 42001 Arasındaki İlişki

Yapay zekâ yönetişimi, kuruluşun yapay zekâ sistemleriyle ilgili kararları hangi ilkeler, roller, kontroller ve hesap verebilirlik mekanizmalarıyla aldığını ifade eder. ISO/IEC 42001 bu yönetişimi yönetim sistemi disipliniyle yapılandırmaya yardımcı olur.

Eğitimde, etik ilkeler veya kurum politikalarının tek başına yeterli olmadığı açıklanır. İlkelerin ölçülebilir hedeflere, karar kriterlerine, sorumluluklara, onay mekanizmalarına ve izleme göstergelerine dönüştürülmesi gerekir. Örneğin “insan odaklı yapay zekâ” ilkesi benimsenmişse bunun kullanıcı bilgilendirmesi, itiraz kanalı, insan müdahalesi, erişilebilirlik ve etki değerlendirmesi süreçlerinde karşılığı bulunmalıdır.

Yönetişim yapısının kuruluşun büyüklüğü, yapay zekâ kullanım düzeyi, risk profili ve sektörüne göre ölçeklendirilmesi önemlidir. Her kuruluşta ayrı bir kurul veya komite bulunması zorunlu olmayabilir; ancak kararların kim tarafından alındığı, hangi bilgiye dayandığı ve nasıl kayıt altına alındığı açık olmalıdır.

Risk Temelli Yaklaşım ve Etki Değerlendirmesi Nasıl Uygulanır?

ISO/IEC 42001 eğitimlerinde risk temelli yaklaşım, yalnızca teknik model hatalarına odaklanmadan ele alınır. Yanlış veya ayrımcı sonuçlar, gizlilik ihlali, güvenlik açığı, aşırı otomasyon, kullanıcıların yanıltılması, insan gözetiminin yetersizliği, erişilebilirlik sorunları, tedarikçi bağımlılığı ve iş sürekliliği etkileri birlikte değerlendirilir.

Yapay zekâ sistemi etki değerlendirmesi, sistemin bireyler, gruplar, kuruluşlar ve toplum üzerindeki potansiyel olumlu ve olumsuz sonuçlarını anlamaya yardımcı olur. Etki değerlendirmesi; kullanım amacı, etkilenen taraflar, kararın önemi, veri türleri, model davranışı, hata olasılığı, insan müdahalesi ve geri bildirim mekanizmaları dikkate alınarak yürütülebilir.

Veri Yönetimi ve Veri Kalitesi Kontrolleri Nasıl Kurulur?

Yapay zekâ sistemlerinin davranışı büyük ölçüde kullanılan verilerin niteliğine bağlıdır. Bu nedenle veri kaynaklarının uygunluğu, yasal kullanılabilirliği, temsiliyet düzeyi, doğruluğu, güncelliği, bütünlüğü, etiketleme kalitesi ve izlenebilirliği değerlendirilmelidir.

Eğitimde veri yaşam döngüsü; toplama, edinme, oluşturma, temizleme, dönüştürme, etiketleme, bölme, depolama, erişim, kullanım, paylaşım ve imha aşamalarıyla ele alınır. Her aşamada sorumluların, kabul kriterlerinin ve kayıtların tanımlanması gerekir.

Veri kalitesi yalnızca teknik doğrulukla sınırlı değildir. Veri setinin hedef kullanıcı grubunu veya kullanım ortamını yeterince temsil edip etmediği, belirli gruplarda sistematik hata üretip üretmediği ve zaman içinde geçerliliğini koruyup korumadığı da değerlendirilmelidir. Eğitimde bu kontrollerin risk ve etki değerlendirmesiyle nasıl ilişkilendirileceği açıklanır.

Model Geliştirme, Doğrulama ve Değişiklik Kontrolü

Yapay zekâ sistemi geliştiren kuruluşlarda gereksinimler, tasarım kararları, veri setleri, model seçimi, eğitim yöntemi, test yaklaşımı, kabul kriterleri ve devreye alma kararları izlenebilir biçimde yönetilmelidir. Harici model veya hizmet kullanılan durumlarda da kuruluşun kendi kullanım amacına yönelik doğrulama sorumluluğu devam eder.

Doğrulama ve geçerli kılma faaliyetleri; teknik performansın yanı sıra güvenilirlik, dayanıklılık, güvenlik, açıklanabilirlik, insan müdahalesi ve kullanım bağlamındaki sonuçları kapsayabilir. Kullanılan metrikler, eşikler ve örnekleme yöntemleri sistemin amacı ve riskiyle uyumlu olmalıdır.

Değişiklik yönetimi; veri güncellemesi, model yeniden eğitimi, parametre değişikliği, yeni entegrasyon, kullanıcı grubu genişlemesi, sağlayıcı değişikliği veya kullanım amacındaki değişiklikleri kapsar. Her değişiklikte risk, etki, doğrulama, dokümantasyon ve iletişim ihtiyacı yeniden değerlendirilmelidir.

İnsan Gözetimi, Şeffaflık ve Açıklanabilirlik

İnsan gözetimi, yapay zekâ sistemlerinin karar veya önerilerinin uygun noktalarda insan tarafından incelenebilmesini, durdurulabilmesini, değiştirilebilmesini veya reddedilebilmesini sağlar. Gözetim düzeyi, kararın önemi, geri döndürülebilirliği, hata olasılığı ve etkilenen taraflar üzerindeki sonuçlara göre belirlenmelidir.

Şeffaflık, kullanıcıların bir yapay zekâ sistemiyle etkileşimde olduklarını, sistemin genel amacını, sınırlılıklarını ve kendi sorumluluklarını anlayabilmesine yardımcı olur. Açıklanabilirlik ise sistem çıktılarının hangi bilgi veya gerekçelerle üretildiğinin uygun düzeyde anlaşılmasını destekler.

Eğitimde her yapay zekâ sistemi için aynı açıklama düzeyinin mümkün veya gerekli olmadığı vurgulanır. Ancak kullanıcıya, yönetime, denetçiye ve teknik ekibe sunulacak bilgi düzeyleri ayrı ayrı değerlendirilmelidir. Özellikle yüksek etkili karar süreçlerinde itiraz, yeniden inceleme ve insan müdahalesi mekanizmalarının açık olması önemlidir.

Tedarikçi ve Dış Kaynaklı Yapay Zekâ Hizmetlerinin Kontrolü

Kuruluşlar çoğu zaman yapay zekâ modelini kendileri geliştirmek yerine bulut tabanlı servis, hazır model, üretken yapay zekâ platformu, veri sağlayıcı veya dış kaynaklı geliştirme hizmeti kullanır. Bu durumda tedarikçi performansı ve sözleşme şartları, yönetim sistemi etkinliği üzerinde doğrudan etki oluşturur.

Tedarikçi seçimi ve izlenmesi; hizmetin kullanım amacı, işlenen veri türleri, model güncelleme yöntemi, güvenlik, gizlilik, hizmet sürekliliği, kayıt erişimi, şeffaflık, alt yükleniciler, olay bildirimi ve çıkış stratejisi dikkate alınarak planlanmalıdır.

Olay Yönetimi, İzleme ve Yapay Zekâ Sisteminin Sonlandırılması

Yapay zekâ sistemlerinde olay yönetimi; beklenmeyen çıktı, yanlış karar, güvenlik açığı, veri sızıntısı, ayrımcı sonuç, performans düşüşü, kullanıcı şikâyeti veya mevzuata aykırılık gibi durumların sistematik biçimde ele alınmasını gerektirir.

Olayın tanımlanması, etkisinin sınırlandırılması, ilgili tarafların bilgilendirilmesi, kök nedenin araştırılması, düzeltici faaliyetlerin planlanması ve öğrenilen derslerin sisteme aktarılması gerekir. Gerekli durumlarda sistemin kullanımının geçici olarak durdurulması veya insan kontrollü sürece dönülmesi planlanmalıdır.

Yapay zekâ sistemi kullanım dışı bırakıldığında veri, model, erişim, entegrasyon, kullanıcı iletişimi, sözleşme, kayıtların saklanması ve alternatif süreçler birlikte değerlendirilmelidir. Sonlandırma planı yalnızca teknik kapatma işlemi olarak görülmemelidir.

İç Tetkik Eğitimi ve Denetim Yaklaşımı

ISO/IEC 42001 iç tetkik eğitimi, yalnızca kontrol listesi üzerinden soru sorma tekniğini değil; yapay zekâ sisteminin yaşam döngüsünü, risk ve etki değerlendirmelerini, veri ve model kayıtlarını, insan gözetimini, tedarikçi ilişkilerini ve performans göstergelerini değerlendirme yaklaşımını öğretir.

İç tetkikçiler, standardın şartlarını bilmenin yanında kuruluşun yapay zekâ kullanım senaryolarını, paydaşlarını, veri kaynaklarını, modellerini, kritik tedarikçilerini ve karar süreçlerini anlamalıdır. Tetkik planı; sistemlerin önemi, önceki sonuçlar, değişiklikler, olaylar, şikâyetler, performans sapmaları ve riskler dikkate alınarak hazırlanmalıdır.

Tetkik bulgularının açık, doğrulanabilir ve geliştirici biçimde raporlanması gerekir. Uygunsuzluğun hangi şartla ilişkili olduğu, hangi objektif kanıtın görüldüğü ve uygulamadaki sapmanın ne olduğu anlaşılır biçimde yazılmalıdır.

Yönetimin Gözden Geçirmesi ve Sürekli İyileştirme

Yönetimin gözden geçirmesi, Yapay Zekâ Yönetim Sisteminin sonuçlarının üst yönetime sunulduğu rutin bir toplantıdan ibaret değildir. Risk ve etki değerlendirmeleri, model performansı, kullanıcı geri bildirimleri, olaylar, şikâyetler, tedarikçi performansı, iç tetkik sonuçları, kaynak ihtiyaçları, mevzuat ve teknoloji değişiklikleri birlikte değerlendirilmelidir.

Girdilerin yalnızca listelenmesi yerine eğilimler, tekrar eden sorunlar, kalan riskler, gecikmeler ve karar ihtiyacı açık biçimde ortaya konmalıdır. Alınan kararların sorumluları, kaynakları, terminleri ve takip yöntemleri belirlenmelidir.

ISO/IEC 42001 bağlamında iyileştirme, kontrolsüz model veya süreç değişikliği anlamına gelmez. Her iyileştirmenin performans, güvenlik, şeffaflık, insan gözetimi, veri yönetimi, paydaş etkileri ve yeniden doğrulama ihtiyacı üzerindeki etkisi değerlendirilmelidir.

Eğitimde Uygulama ve Atölye Yaklaşımı

ISO/IEC 42001 eğitiminin kalıcı öğrenme sağlaması için örnek kullanım senaryoları, süreç haritaları, risk ve etki değerlendirmeleri, veri envanterleri, model kartları, tedarikçi vakaları, olay senaryoları ve iç tetkik uygulamalarına yer verilebilir. Uygulamalar kuruluşun sektörüne, yapay zekâ rolüne, katılımcı profiline ve eğitim seviyesine göre seçilir.

Online ve Kurum İçi Eğitim Yaklaşımı

ISO/IEC 42001 eğitimleri, kuruluşun ihtiyacına göre online veya kurum içi biçimde planlanabilir. Online eğitimlerde etkileşimi korumak için soru-cevap, örnek politika ve kayıt incelemeleri, kullanım senaryosu analizleri, grup çalışmaları ve vaka değerlendirmeleri kullanılabilir. Kurum içi eğitimlerde ise kuruluşun gerçek yapay zekâ sistemleri, veri akışları, tedarikçileri, riskleri ve mevcut yönetişim yapısı daha ayrıntılı ele alınabilir.

Kurum içi programların önemli avantajı, içeriğin kuruluşun yapay zekâ sistemlerindeki rolüne ve kritik süreçlerine göre uyarlanabilmesidir. Yapay zekâ geliştiren kuruluşlarda veri, model geliştirme, doğrulama, sürüm ve değişiklik yönetimi ön plana çıkabilirken; hazır yapay zekâ hizmeti kullanan kuruluşlarda tedarikçi kontrolü, kullanım sınırları, insan gözetimi, kullanıcı farkındalığı ve veri paylaşımı daha ayrıntılı incelenebilir.

Eğitimin yöntemi ne olursa olsun, katılımcıların soru sorabildiği, kendi süreçlerinden örnek getirebildiği ve uygulama üzerinden değerlendirme yapabildiği bir yapı tercih edilir.

Katılımcıların Eğitim Sonunda Elde Edeceği Kazanımlar

Eğitim sonunda katılımcıların bilgi seviyesi, görev alanı ve program kapsamına bağlı olarak aşağıdaki yetkinlikleri geliştirmesi hedeflenir:

• ISO/IEC 42001’in amacını ve Yapay Zekâ Yönetim Sistemi yapısını açıklayabilmek,
• Kuruluşun yapay zekâ sistemlerindeki rolü ile uygulanabilir şartlar arasındaki ilişkiyi kurabilmek,
• Yapay zekâ sistemlerini yaşam döngüsü yaklaşımıyla değerlendirebilmek,
• Risk ve etki değerlendirmelerini teknik ve yönetsel süreçlerle ilişkilendirebilmek,
• Veri kalitesi, veri yönetişimi ve veri izlenebilirliği kontrollerini anlayabilmek,
• Model doğrulama, performans izleme ve değişiklik yönetimi ihtiyaçlarını ayırt edebilmek,
• İnsan gözetimi, şeffaflık ve açıklanabilirlik gereksinimlerini kullanım bağlamına göre değerlendirebilmek,
• Tedarikçi ve dış kaynaklı yapay zekâ hizmetlerinin kontrolünü risk düzeyine göre planlayabilmek,
• Olay, şikâyet ve düzeltici faaliyet süreçlerini kanıta dayalı biçimde yönetebilmek,
• İç tetkik sürecine hazırlanmak ve objektif kanıtları değerlendirebilmek,
• Yönetimin gözden geçirmesi ve sistem iyileştirme mekanizmalarının rolünü anlayabilmek,
• Yapay zekâ yönetişimini kuruluşun mevcut yönetim sistemleriyle ilişkilendirebilmek.

ISO 42001 Eğitimlerinde Sık Karşılaşılan Yanlış Yaklaşımlar

TOEM Kalite Eğitim Yaklaşımı

TOEM Kalite olarak ISO/IEC 42001 eğitimlerinde hazır ve tek tip anlatım yerine kuruluşun yapay zekâ sistemlerindeki rolünü, kullanım senaryolarını, sektörünü, paydaşlarını, veri kaynaklarını, modellerini, kritik tedarikçilerini, risklerini ve mevcut yönetim sistemi olgunluğunu dikkate alan bir yaklaşım benimsiyoruz.

Eğitim içeriğinin kuruluşun ihtiyaçlarına göre uyarlanması, katılımcıların öğrendiklerini iş ortamına aktarmasını kolaylaştırır. Bu nedenle eğitim öncesinde kuruluşun yapay zekâ kullanım alanları, geliştiren veya kullanan rolü, veri kaynakları, kritik tedarikçileri, mevcut kontrol yapısı, katılımcı profili ve öncelikli risk konuları hakkında bilgi alınması faydalıdır.

Sık Sorulan Sorular