LİDERLERİN YAPAY ZEKA STRATEJİLERİ DEĞİŞİYOR
Elizabeth M. Renieris, David Kiron & Steven Mills
Sorumlu YZ, hem iş dünyasında hem medyada popüler bir terim haline geldi. Artık bir çok şirket, YZ'nin uygun şekilde geliştirilmesini ve kullanılmasını sağlamaya adanmış sorumlu YZ görevlilerine ve ekiplerine sahip. Bu vurgu, gelişen bir teknoloji olarak YZ'nin beraberinde getirdiği yeni risklerin şirketler tarafından ele alınması gerektiğine dair giderek yaygınlaşan bakış açısını yansıtıyor.
Ancak önde gelen şirketler daha kapsamlı bir yaklaşımı benimsiyor: Onlar için SYZ, kurumsal sorumluluk temellerini genişletmekle ilgili bir mesele. Bu şirketler öncelikle sorumlu işletmeler: Sorumlu davranış yaklaşımlarını belirleyen değerler ve ilkeler, tüm teknoloji, sistem ve süreç paketleri için geçerli.
Bu lider şirketler için SYZ, belirli bir teknolojiden ziyade şirketin bütününe dair bir şey. H&M Group bunun bir örneğidir. Şirketin SYZ ve veriden sorumlu başkanı Linda Leopold, "Genel şirket stratejimiz ile sorumlu YZ stratejimiz ve sosyal ve çevresel sürdürülebilirliği teşvik etme çabalarımız arasında yakın bir bağlantı var" diyor. Bu stratejilerin bir araya geldiği anlardan biri, şirketin "YZ'yi karbondioksit salımlarını azaltmak için bir araç olarak kullanma hedefi" eBay'in baş YZ yöneticisi Nitzan Mekel-Bobrov, SYZ ile daha kapsamlı bir kurumsal sorumluluk anlayışı arasında doğal bir bağlantı görüyor: "Önyargıları önleme, şeffaflık ve adalet gibi sorumlu YZ'nin arkasında yatan temel fikirlerin çoğu, kurumsal sosyal sorumluluğun temel ilkeleriyle zaten uyumlu."
SYZ'DE SON DURUM: ÖZLEMLER VE GERÇEKLER
Bu yılki araştırmamızın ortaya koyduğu noktalardan biri şuydu: Şirketler, SYZ programlarını geliştirip olgunlaştırdıkça SYZ'yi yalnızca teknolojik değil, kurumsal bir sorun olarak görmeye başlıyor. Ancak birçok organizasyon henüz bu geçişi yapabilmiş değil.
YZ'nin benimsenmesi, hiç şüphesiz tüm sektörler ve şirketler genelinde hızlanıyor. MIT SMR ve BCG'nin YZ hakkındaki 2019 raporu için düzenlenen ankete katılan şirketlerin ezici bir çoğunluğu, yüzde 90'ı bu teknolojiye yatırım yapmıştı. Araştırmamız, kuruluşların dahili iş süreçlerini optimize etmek ve dış müşteri ilişkilerini ve ürünleri geliştirmek için YZ kullandığını gösteriyor. Levi Strauss & Co. perakende sektöründen bir örnek. Hazır giyim şirketinin baş küresel strateji ve YZ yöneticisi Katia Walsh, "YZ, Levi Strauss & Co.'nun tamamına nüfuz etmeye başlıyor" diyor.
YZ'nin bir alanda sınırlı bir rol oynamaktan ziyade çeşitli işlevsel alanlarda uygulandığını söyleyen Walsh şirketin bu sayede tüketicilerin online ve mağaza deneyimlerinin kişiselleştirilmesini sağladığını, ayrıca dahili süreçleri, fiyatlandırmayı ve üretimi, sipariş karşılamayı ve diğer girişimleri otomatikleştirdiğini ve optimize ettiğini belirtiyor. YZ, müşterilerin arama deneyimlerini kişiselleştirmek, şirket içi verimliliği artırmak, ürünlere yönelik talebi tahmin etmek için organizasyon genelinde yatay olarak uygulanıyor.
SYZ'LER HENÜZ STANDART OLMADI
YZ kurumsal düzeyde hızlı ve geniş kapsamlı bir şekilde benimseniyor ancak dünya genelinde sorumlu YZ'nin organizasyonlar tarafından benimsenmesi şimdiye kadar nispeten sınırlı oldu. SYZ, teknolojinin güvenlik, önyargı, adalet ve mahremiyet gibi konuları kapsayan risklerini azaltmak için genellikle gerekli görülüyor, ancak hiç bir şekilde standart uygulama haline gelmiş değil.
Katılımcılarımızın yarıdan biraz fazlası (yüzde 52'si), organizasyonlarında yürürlükte bir SYZ programı bulunduğunu bildiriyor. SYZ programı olanların çoğunluğu (yüzde 79'u) programın uygulanmasının ölçek ve/ veya kapsam olarak sınırlı olduğunu ifade ediyor (bkz. grafik 1).Dikkat çekici bir şekilde, anketimizi yanıtlayanların yüzde 42'si YZ'nin organizasyonları için en önemli stratejik öncelik olduğunu söylüyor, ancak bu katılımcılar arasında bile yalnızca yüzde 19'u organizasyonlarının tam anlamıyla uygulanan bir SYZ programına sahip olduğunu belirtiyor. Diğer bir deyişle, sorumlu YZ girişimleri genellikle stratejik YZ önceliklerinin gerisinde kalıyor (bkz.grafik 2).
KAVRAM KARMAŞASI YAŞANIYOR
SYZ'nin sınırlı olarak uygulanmasına yol açan faktörlerden biri, terimin kendisine ilişkin yaşanan kafa karışıklığı olabilir. SYZ'nin nispeten yeni bir alan olduğu göz önüne alındığında, sorumlu YZ'nın anlamı konusunda bir fikir birliği olmaması şaşırtıcı değil.
Ankete katılanların yalnızca yüzde 36'sı bu terimin organizasyonlarının tamamında tutarlı bir şekilde kullanıldığına inanıyor. SYZ programlarını uygulayan işletmeler bile bu terimin tutarsız bir şekilde kullanıldığını tespit ediyor. Salesforce'un etik YZ uygulamasının baş mimarı Kathy Baxter, bulut tabanlı yazılım şirketinde sorumlu YZ ve etik YZ terimlerinin hangisinin kullanılması gerektiği ve bunların birbirinin yerine geçip geçemeyeceği konusunda bir tartışma yaşandığını belirtiyor. Benzer şekilde, H&M Group'tan Leopold, YZ bağlamında etik, güvenilir ve sorumlu terimlerinin "birbirinin yerine kullanıldığını" söylüyor. Leopold'un ekibi, tutarlı olmak ve karışıklığı önlemek için 'sorumlu'yu şemsiye terim olarak kullanmaya karar verdi; 'etik' de bu kavramın anahtar bileşenlerinden biri olarak tanımlandı.
ÜST YÖNETİMİN GÖZÜ SYZ'LERDE
SYZ'nin sınırlı olarak uygulanmasına yol açan diğer faktörler, YZ'nin teknik karmaşıklıklarından ziyade genel organizasyonel zorluklarla ilintili. Katılımcılara şirketlerinin SYZ girişimlerini başlatmasını, sürdürmesini veya ölçeklendirmesini hangi faktörlerin engellediği sorulduğunda bildirilen en yaygın faktörler, uzmanlık ve yetenek eksikliği, çalışanların eğitim veya bilgi yetersizliği, üst düzey liderliğin önceliklendirme noksanları, finansman ve farkındalıktaki yetersizliklerdi (bkz. grafik 3).
YZ teknolojisinin hızla yayılmasının beraberinde getirdiği risklere ilişkin artan farkındalık neticesinde çoğu organizasyon SYZ'nin önemini kabul ediyor ve ona öncelik vermek istiyor. Ankete katılanların büyük çoğunluğu (yüzde 84'ü), SYZ'nin üst yönetimin gündeminin bir parçası olması gerektiğine inanıyor. SYZ panel üyelerimizin çoğu da bu görüşü paylaşıyor. Salesforce'un etik ve insani kullanım sorumlusu Paula Goldman, "Net bir etik çerçeve oluşturmak, tercihe bağlı bir şey değil, teknolojinin geleceği için hayati öneme sahip bir şey" diyor.
Stanford Hukuk Fakültesi'ne bağlı Hesaplamalı Hukuk Merkezi'nin CodeX üyesi Riyanka Roy Choudhury de SYZ'yi "ekonomik ve sosyal bir zorunluluk" olarak tanımlıyor. Ancak, SYZ'nin önemine ilişkin yaygın mutabakata karşın, çoğu organizasyon bu inancını henüz eyleme dönüştürmedi. Katılımcıların yüzde 84'ü SYZ'nin bir üst yönetim önceliği olması gerektiğine inanırken bunların sadece yüzde 56'sı SYZ'nin gerçekten üst düzey bir öncelik haline geldiğini söylüyor. Ve bunların sadece yüzde 25'i organizasyonlarının tamamen olgunlaşmış bir SYZ programına sahip olduğunu belirtiyor (bkz. grafik 4).
SYZ LİDERLERİ UÇURUMU KAPATIYOR
Anketimize katılanların yüzde 16'sını temsil eden küçük bir organizasyon grubu, SYZ'ye ilişkin daha stratejik bir yaklaşım benimseyerek özlemler ile gerçeklik arasındaki uçurumu kapatmayı başardı. Bu SYZ Liderleri, Lider Olmayanlar olarak nitelendirdiğimiz anket popülasyonunun geri kalanına (yüzde 84'üne) kıyasla farklı özelliklere sahip. Spesifik olarak bunlar, yönetim kadroları SYZ'ye öncelik veren, SYZ uygulamalarına geniş bir katılımcı grubunu dahil eden ve paydaşlarına SYZ açısından kapsamlı bir perspektifle yaklaşan organizasyonlar.
Liderlerin dörtte üçü (yüzde 74'ü), organizasyonlarında SYZ'nin gerçekten üst yönetim gündeminin bir parçası olduğunu belirtiyor; bu oran Lider Olmayanlarda sadece yüzde 46. Bu önceliklendirme, Liderlerin yüzde 77'sinde SYZ çabalarına maddi kaynak yatırımı yapma taahhüdü olarak yansıtıyor; Lider Olmayanlarda ise söz konusu oran sadece yüzde 39. SYZ uygulamalarında liderlik desteği olmadığında uygulayıcılar SYZ'nin önceliklendirilmesi için gerekli teşvikler, zaman ve kaynaklardan mahrum kalabiliyor.
Liderler, SYZ çabalarına yatırım yapmanın yanı sıra bu çabalara daha geniş bir katılımcı yelpazesini dahil ediyor. Liderler, SYZ çabalarına ortalama 5.8 rolü dahil ediyor; Lider Olmayanlarda bu rakam yalnızca 3.9. Bu katılımda ağırlık üst düzey pozisyonlara veriliyor. Liderler, Lider Olmayanlara kıyasla, SYZ girişimlerine yüzde 59 daha fazla C düzeyi roller dahil ediyor. Ayrıca Liderlerin yaklaşık yarısı (yüzde 47'si) SYZ girişimlerine CEO'yu dahil ediyor; bu rakam Lider Olmayanlardaki yüzde 23'lük oranın iki katından fazla (bkz. grafik 5).
Liderler, SYZ'ye organizasyonun sınırlarının ötesinde geniş bir katılımcı yelpazesinin dahil etmesi gerektiğine inanıyor, hatta toplumun bütününü önemli bir paydaş olarak görüyor. Liderlerin büyük çoğunluğu (yüzde 73'ü), SYZ çabalarını daha geniş kurumsal sosyal sorumluluk (KSS) çabalarının bir parçası addediyor. Buna karşılık Lider Olmayanların sadece yüzde 35'i SYZ'yi KSS çabalarıyla ilişkilendiriyor. Araştırmamız, ayrıca, organizasyonların SYZ girişimlerini olgunlaştırdıkça YZ kullanımı ve geliştirme süreçlerini kendi değerleriyle, daha geniş anlamda sosyal sorumluluklarıyla uyumlu hale getirmeye yöneldiğini; riskleri sınırlamaya ve ticari faydalar elde etmeye yönelik ilgisinin de azaldığını gösteriyor.
SYZ LİDERLERİ NET İŞ AVANTAJLARI ELDE EDİYOR
Daha önce de belirttiğimiz gibi, SYZ Liderleri, SYZ çabalarından ölçülebilir ticari faydalar elde edebilir, öncelikli motivasyonları bu olmasa bile. Elde edilen avantajlar arasında daha iyi ürün ve hizmetler, geliştirilmiş marka farklılaştırması, hızlandırılmış yenilik, geliştirilmiş işe alma ve elde tutma, artan müşteri sadakati ve iyileştirilmiş uzun vadeli karlılığın yanı sıra yeni yasal düzenlemelere daha hazır olma bulunuyor.
Liderlerin yüzde 41'i SYZ çabalarından halihazırda ticari faydalar elde ettiklerini onaylıyor; bu oran Lider Olmayanlarda yalnızca yüzde 14. SYZ Liderlerinin yüzde 30'u olgunlaşmamış YZ çabalarında bile SYZ programlarından ticari faydalar görüyor; Lider Olmayanların sadece %11'ine kıyasla. Liderlerin yüzde 49'u, olgun YZ çabalarıyla SYZ programlarından ticari faydalar elde ediyor; Lider Olmayanların ise sadece yüzde 23'ü. Olgun SYZ programları, YZ'nin kendisiyle ilişkili riskleri de azaltıyor.
Liderlerin yarısı SYZ çabalarının bir sonucu olarak daha iyi ürün ve hizmetler elde ederken, Lider Olmayanların yalnızca yüzde 19'u bunu yapabiliyor. Liderlerin yüzde 48'i SYZ çabalarının gelişmiş marka farklılaşmasıyla sonuçlandığını belirtirken, Lider Olmayanlarda bu oran sadece yüzde 14'te kaldı. Ayrıca, popüler algının aksine, Liderlerin yüzde 43'ü SYZ çabalarının bir sonucu olarak yeniliğin hızlandığını bildirdi; Lider Olmayanlarda ise bu oran yüzde 17'de kaldı (bkz. grafik 6). Eli Lilly'nin baş veri ve analitik yöneticisi Vipin Gopal, bırakın yeniliği boğmayı, "sorumlu yapay zekanın sorumlu yeniliği mümkün kıldığına" inanıyor. Son olarak olgun bir SYZ programına sahip Liderlerin yüzde 51'i YZ alanında yeni ortaya çıkan yasal düzenlemelerin gereklerini yerine getirmeye kendini hazır hissediyor; bu oran SYZ programları olgunlaşmamış organizasyonlarda yüzde 30'a geriliyor.
SYZ LİDERLİĞİ HEVESLİLERİNE 3 ÖNERİ
İşletmeler SYZ özlemlerini hayata geçirme sürecini nasıl başlatmalı veya hızlandırmalı? Mevcut SYZ liderlerinden çıkarılan derslere dayanan aşağıdaki öneriler, organizasyonların kendi SYZ programlarını ölçeklendirmesine veya olgunlaştırmasına yardımcı olacaktır.
'Kutu tıklama' zihniyetinden kurtulun. SYZ, yaklaşan YZ yasal düzenlemeleri ve artan YZ gecikmeleri karşısında organizasyonların kendini daha hazırlıklı hissetmesine yardımcı olabilir. Ancak olgun bir SYZ programı, yalnızca mevzuata uygunluk veya risk azaltma tarafından yönlendirilmez. SYZ'nin organizasyon kültürünüzü, değerlerinizi ve daha kapsamlı KSS çabalarınızı nasıl ifade ettiğini veya bunlara nasıl uyum sağladığını da dikkate almanız gerekiyor.
1- BAKIŞ AÇINIZI GENİŞLETİN
İşinizin bir bütün olarak toplum üzerindeki etkisini değerlendirmek de dahil olmak üzere kendi YZ kullanımınız, benimsemeniz veya YZ teklifleriniz söz konusu olduğunda, dahili ve harici paydaşlarınız hakkında daha kapsamlı bir bakış açısı edinin. SYZ programınızı MSS çabalarınızla birleştirmeyi düşünün.
2- ERKEN BAŞLAYIN
İlgili uzmanlık veya eğitim eksikliği de dahil olmak üzere yaygın engelleri ele almak için mümkün olan en kısa sürede SYZ çabalarınızı başlatın. Organizasyonların SYZ'den ticari faydalar elde etmeye başlaması zaman alabiliyor - anketimiz ortalamanın üç yıl olduğunu gösteriyor. Uzun bir süreç gibi görünse de SYZ uygulamalarında henüz evrimin başlarındayız, bu nedenle organizasyonunuz kendi sektöründe veya coğrafyasında güçlü bir lider olma fırsatına sahip.
3- İCRAAT GEÇİN
Bütçe, yetenek, uzmanlık ve diğer insan ve insan dışı kaynaklar dahil olmak üzere SYZ programınızın her yönüne yeterli yatırımı yapın. SYZ bilgilendirme, farkındalık ve eğitim programlarının yeterince finanse edildiğinden ve desteklendiğinden emin olun. Organizasyonun en üst seviyeleri de dahil olmak üzere çok çeşitli insanları ve rolleri çabalarınıza dahil edin.
Sonuç: YZ hatalarının çoğalmaya başladığı ve YZ ile ilgili ilk yasal düzenlemelerin uygulamaya konduğu bir zamandayız. Her iki gelişme de sorumlu YZ programlarını uygulama çabalarına aciliyet kazandırsa da, SYZ'ye öncülük eden şirketlerin temel olarak riskler, düzenlemeler veya diğer operasyonel kaygılar tarafından yönlendirilmediğini gördük. Araştırmamız, Liderlerin SYZ'ye stratejik bir bakış açısıyla yaklaştığını gösteriyor. YZ'yi çevreleyen yüksek riskler ve SYZ'den kaynaklanan net ticari faydalar göz önüne alındığında organizasyonlar SYZ çabalarını nasıl olgunlaştıracaklarını düşünmeli ve hatta bu alanda lider olmaya çalışmalı.
SORUMLULUK ŞART
Daha stratejik bir bakış açısını benimseyen liderler, sadece konuşmakla yetinmeyip icraata geçiyor çıkar ve özlemler ile gerçekler arasındaki uçurumun aşılmasını sağlıyor. Bu da sorumlu YZ'nin aslında YZ'den ziyade şirket kültürüyle, önceliklerle ve uygulamalarla –şirketin toplumun bütünü de dahil olmak üzere iç ve dış paydaşlarıyla ilişkileri bağlamında kendisini nasıl gördüğüyle- alakalı olduğunu gösteriyor.
Kısacası, SYZ sadece spesifik bir teknoloji söz konusu olduğunda daha sorumlu bir tutum takınmaktan ibaret değil. SYZ Liderleri, SYZ'yi daha geniş bir kurumsal hedefler dizisiyle ve sorumlu bir kurumsal vatandaş olma hedefiyle birlikte ele alıyor. SYZ Lideri olmak istiyorsanız sorumlu bir şirket olmaya odaklanın.
SORUMLU YAPAY ZEKA (SYZ) NEDİR?
Bu araştırmada Sorumlu Yapay Zeka, "Yapay zeka sistemlerinin bireyler ve toplumun iyiliğine hizmet edecek şekilde geliştirilmesini ve işletilmesini sağlarken yine de dönüştürücü bir iş etkisi üreten ilkeler, politikalar, araçlar ve sürçleri içeren bir çerçeve" olarak tanımlanıyor.
YAZARLAR
Elizabeth M. Renieris, Oxford'daki Yapay Zeka Etik Enstitüsü'nde kıdemli bir araştırma görevlisi; ayrıca hukuk ve politika alanında danışmanlık hizmeti veren Hackylawyer şirketinin kurucusu ve CEO'su. Daha önce Stanford'un Dijital Sivil Toplum Laboratuvarı, Harvard'ın Carr İnsan Hakları Politikası Merkezi ve Berkman Klein Internet ve Toplum Merkezi'nde öğretim üyeliği yapan Renieris, "Beyond Data: Reclaiming Human Rights at the Dawn of the Metaverse" [Verinin Ötesinde: Metaevrenin Şafağında İnsan Haklarının Geri Kazanılması] (MIT Press, 2023) kitabının yazarı.
David Kiron, MIT Sloan Management Review'da araştırma editör direktörü ve Büyük Fikirler araştırma girişimleri için program lideri. Daha önce Harvard İşletme Okulu'nda kıdemli araştırmacı ve Tufts Üniversitesi'ne bağlı Küresel Kalkınma ve Çevre Enstitüsü'nde araştırmacıydı. Yakında çıkacak olan "Workforce Ecosystems: Reaching Strategic Goals With People, Partners, and Technology" [İş Gücü Ekosistemleri: Stratejik Hedeflere İnsanlar, Ortaklar ve Teknolojiyle Ulaşmak] (MIT Press, 2023) kitabının ortak yazarı.
Steven Mills, YZ etik sorumlusu olarak görev yaptığı Boston Consulting Group'un (BCG) idari direktörü ve ortağı. Görevi, BCG'nin dahili sorumlu YZ programını geliştirmenin yanı sıra müşterilere kendi SYZ programlarını tasarlayıp uygularken rehberlik yapmak. Mills, DataIQ tarafından veri alanındaki en etkili 100 kişiden biri (2022) ve Forbes tarafından da geleceği şekillendiren 15 YZ etik liderinden biri (2021) olarak kabul edildi.
KATKIDA BULUNANLAR
François Candelon, Maxime Courtaux, Michele Lee DeFilippo, Todd Fitz, Carolyn Ann Geason-Beissel, Franz Gravenhorst, Abhishek Gupta, Sarah Johnson, Tom Porter, Lauren Rosano, Allison Ryder, Max Santinelli, Sean Singer, Barbara Spindel, Peter Strutt ve Yunke Xiang.