Delaware bir yapay zeka ajanına şirket yönettirmek istiyor. Ama asıl soru arkasındaki katman.

Dr. Serdar Özcan
0 Yorumlar
131 Görüntüleme

Delaware bir yapay zeka ajanına şirket yönettirmek istiyor: Ama asıl soru arkasındaki katman.

Bir milyondan fazla şirketin kayıtlı olduğu Delaware, yeni bir tüzel kişilik türü hazırlıyor. Yöneticisi bir insan yerine bir yapay zeka ajanı olacak. Otonom ajanlar geliştiren biriyseniz, ilginç olan kısım önerinin ajanın etrafına sessizce koyduğu şartlar.

AIC

Yeni Tüzel Kişilik: Yapay Zeka Şirketi

30 ay

Sandbox Programının Kendiliğinden Sona Ermesi

1M+

Delaware’de Kayıtlı Şirket Sayısı

2023

Dayandığı Science Makalesinin Yılı

Delaware’in gerçekte önerdiği şey

13 ve 14 Temmuz’da Fortune özel bir haber yayınladı: Delaware Eyalet Sekreteri Charuni Patibanda-Sanchez ile yapay zeka uyum girişimi Norm Ai’nin CEO’su John Nay, “Artificial Intelligence Company” yani AIC adında bir tüzel kişilik kurmak istiyor. TheNextWeb ise 15 Temmuz’da devam haberini yaptı.

AIC, yöneticisi bir insan yerine bir yapay zeka ajanı olan bir şirket. Kağıt üzerinde mülk edinip, elden çıkarabiliyor, borç altına girebiliyor ve kendi adına dava açıp dava edilebiliyor. Fikrin kökeni, Nay’ın ortak yazarlarından biri olduğu 2023 tarihli bir Science makalesine dayanıyor. O makale yalın bir soru soruyordu: Otonom yazılım kendi başına sözleşme yapmaya, tedarikçilere ödeme yapmaya ve işlem yapmaya başladığında ne yapacağız? Yazarlar, bunu yasaklamanın boşuna olduğunu, dürüst yolun ona yasal bir biçim kazandırmak olduğunu savunuyordu.

Delaware bunu denemek için doğal bir adres. ABD’de şirket kuruluşu ve kurumsal yönetişim konusunda en gelişmiş altyapıya sahip eyalet ve çerçeveyi Norm Ai önderliğinde bir kamu-özel ortaklığıyla kurmayı planlıyor.

Beraberinde gelen kurallar

Asıl dikkatle okunması gereken yer tam olarak burası. Bir AIC başıboş bırakılmıyor. Öneri onu bir dizi şartla çerçeveliyor ve bu şartların her biri, üretime ajan çıkarmış herkes için tanıdık gelecektir.

Sorumluluğu üstlenen bir insan. Her AIC’nin, şirkete yeterli sermayeyi sağlamakla yükümlü tek bir üyesi (bir kişi veya kurum) olmak zorunda.
Ne yaptığının kaydı. AIC, tüm faaliyetlerinin eksiksiz bir günlüğünü tutmak zorunda.
Karşı tarafa bildirim. İşlem yaptığı taraflara; şirketin yetkili bir test kuruluşu olduğu, eyaletin henüz onu onaylamadığı, testin ne zaman biteceği ve nasıl şikayet edileceği açıkça bildirilmeli.
Sınırları belirlenmiş bir sandbox. AIC’ler yalnızca düzenleyici bir sandbox (kontrol alanı) içinde çalışabiliyor. Bankacılık işlemleri yasak ve programın tamamı 30 ay sonra kendiliğinden sona eriyor.
Fişi çekebilen bir komite. Kabul kararını; Eyalet Sekreteri, Başsavcı, Delaware Yüksek Mahkemesi Baş Yargıcı, eyalet Yapay Zeka Komisyonu başkanı ve dışarıdan avukatlar ile teknoloji uzmanlarından oluşan bir grup veriyor. Bu grup gerektiğinde bir AIC’yi askıya alabiliyor, yetkisini iptal edebiliyor ve Chancery Mahkemesi’nden feshini talep edebiliyor.

Tüketici koruma ve ceza hukuku tamamen geçerli kalıyor. Sorumluluk kalkanı yalnızca sandbox içinde ve yalnızca kurallara uyan üyeler için geçerli. Şirketi sermayelendirmezseniz ya da onu dolandırıcılık için kullanırsanız bu kalkan düşüyor.

Sesli asistan geliştiren bir ekip neden şirketler hukuku taslağı okuyor

TAO AI LAB olarak işletmeler için Türkçe ve İngilizce dillerinde gerçek telefon hatlarına yanıt veren sesli asistanlar geliştiriyoruz. Dolayısıyla yapay zeka ajanlarının sözleşme imzalaması bizim için soyut bir konu değil. Taslağın detaylarını incelerken bir şey öne çıktı:

Delaware’in şart listesi, neredeyse satır satır, ciddi bir yapay zeka ajanı için hazırlanmış mühendislik kontrol listesi gibi. Hesap veren bir insan. Her eylemin denetim günlüğü. Arayanın bir makineyle konuştuğuna dair net bir bildirim. Ajanın aşamayacağı sert sınırlar (guardrails). Bir insanın kontrol ettiği bir acil durdurma düğmesi (human-in-the-loop).

Biz bu ilkeleri sırf bir kanun söylediği için benimsemedik; bunları bize canlı çağrı deneyimlerimiz öğretti. Otonom bir sistemi bozan şey genellikle sıradan bir ayrıntıdır: ajanın bir insana devretmesi gereken ama devretmediği o kritik an, kimsenin kaydetmediği bir eylem ya da istem içinde yer alıp ama çalışma zamanında (runtime) uygulanmayan bir sınır… Hukuk şimdi, iyi bir ajan tasarımının zaten pazarlığa açık görmediği ilkeleri resmiyete döküyor.

Bu konudaki samimi görüşüm şu, ve nerede yanıldığımı sizlerden duymak isterim. Yasal kılıf işin kolay kısmı. Delaware tek bir yasama döneminde yeni bir tüzel kişilik icat edebilir. Zor olan kısım, tüm bu süreci güvenli kılan, ajanın içindeki kontrol katmanıdır (guardrail’ler, günlükler, insanın devrede olduğu devir mekanizmaları). O katman mühendislikle inşa edilir ve küçük bir ekibin fark yarattığı yer tam olarak orasıdır.

Bunun henüz çözmediği şeyler

İki önemli nokta resmi netleştiriyor: Birincisi, bu bir öneri, henüz kanun değil. Yasa tasarısının Delaware Genel Kurulu’na önümüzdeki yıl sunulması bekleniyor, yani bugün için yürürlükte olan bir sistem yok. İkincisi, TheNextWeb bariz bir gerilime dikkat çekti: plan, sistemi denetleyecek yetkili ile tasarımına firmasıyla katkı sağlayan kurucu ortağın ortak imzasıyla hazırlandı. Bu durum öneriyi doğrudan yanlış kılmaz; ancak çerçevenin şüpheci ve dikkatli bir gözle incelenmesi gerektiğini gösterir.

Yine de gidişat ve yön net. Otonom ajanların etrafına yasal sınırı birileri çizecek ve bu ilk adımı Delaware attı. Bu sınırların içinde gerçekten çalışacak ekipler ise herhangi bir kanun onları zorlamadan çok önce, modelin etrafındaki orkestrasyonu şimdiden kuranlar olacaktır.

Sıkça sorulan sorular

Delaware AIC nedir?
Bir insan yerine bir yapay zeka ajanı tarafından yönetilen, “Artificial Intelligence Company” adlı önerilmiş bir tüzel kişilik türüdür. Mülk edinebilir, borç altına girebilir ve kendi adına dava açabilir ve dava edilebilir.

Bugün Delaware’de bir yapay zeka yasal olarak şirket yönetebilir mi?
Hayır. Bu, Temmuz 2026’da haberlere yansıyan bir yasa önerisidir; önümüzdeki yıl eyalet yasama meclisine gelmesi beklenmektedir ve yalnızca sınırlı bir düzenleyici sandbox içinde çalışacaktır.

AIC önerisinin arkasında kim var?
Bir kamu-özel ortaklığı olarak Delaware Eyalet Sekreteri Charuni Patibanda-Sanchez ve Norm Ai’nin CEO’su John Nay.

AIC hangi güvenceleri şart koşuyor?
Şirketi sermayelendiren bir insan üye, faaliyet günlüğü, karşı tarafa bildirim zorunluluğu, bankacılık yasağı, 30 aylık otomatik sona erme süresi ve şirketi askıya alabilen veya feshedebilen bir denetim komitesi.

Sözleşme imzalayabilen bir yapay zeka ajanı, ancak eylemlerini kaydeden, sınırlayan ve devreden katman kadar güvenilirdir. İşte tam da o katmanı geliştiriyoruz. Sesli ya da ajan sistemleri çalıştırıyorsanız tek bir sorum var: Ajanınızın yetkisi sadece bir istemin (prompt) içine mi yazılı, yoksa çalışma zamanında (runtime) zorunlu mu kılınıyor? Yorumlarda benimle paylaşın.

Delaware bir yapay zeka ajanına şirket yönettirmek istiyor. Ama asıl soru arkasındaki katman.