2023/11/06 tarihinde düzenlenen OpenAI DevDay etkinliğinde, OpenAI CEO'su Sam Altman, OpenAI'yi bir kez daha aşarak AI geliştiricilerine yeni olanaklar sundu. Bu makalede, GPT-4 Turbo'nun yazılım geliştiriciler için neden bu kadar çekici olduğunu birlikte keşfedelim.

OpenAI, 2023/11/06 tarihinde OpenAI DevDay etkinliğini düzenledi. Diğer büyük teknoloji şirketleri hala GPT-4'ün performansını yakalamaya çalışırken, OpenAI CEO'su Sam Altman, OpenAI'yi bir kez daha aşarak AI geliştiricilerine yeni olanaklar sundu ve OpenAI'nin yapay zeka alanında lider konumunu bir kez daha gösterdi.

Gelişmiş GPT-4 Turbo: Daha Hızlı, Daha Büyük Metin Miktarı ve Daha Ucuz

Bağlam (Context), "büyük dil modeline verilen giriş ipuçları ve karşılıklı diyalog" anlamına gelir. Geçmişte toplam metin miktarı en fazla 32.000 Token'a kadar destekleniyordu (ve yalnızca bazı geliştiriciler için kullanılabilir), ancak GPT-4 Turbo, 128.000 Token'a kadar toplam metin miktarına izin veriyor. Bu, 300 sayfalık bir kitabı bir kerede GPT-4 Turbo'ya girebileceğiniz anlamına gelir ve modelin üretim yapmasını sağlar. Hız açısından, geçmişte GPT-4'ün en çok eleştirilen özelliği yavaş olmasıydı. Üretim sürecinde beklemek genellikle çok zaman alıyordu, bu yüzden işletmeler hala çoğunlukla GPT-3.5'i kullanarak pratik uygulamalardaki sorunları çözüyordu. Bu nedenle, GPT-4 Turbo bu sorunu çözdü ve üretim hızını GPT-3.5'e yaklaştırdı, ayrıca gelecekte GPT-4 Turbo'nun entegre edileceği senaryoları zenginleştirdi. Maliyet açısından, önceki sürüm olan GPT-4'e kıyasla, ipuçlarının maliyeti üç kat daha ucuz (3x cheaper) ve çıktının metin maliyeti iki kat daha ucuz (2x cheaper).

Geliştiriciler İçin Daha Dostça Fonksiyon Çağrısı (Function Calling) Özelliği

Fonksiyon Çağrısı (Function Calling) Nedir?

OpenAI, bu yılın başlarında "fonksiyon çağrısı" özelliğini duyurdu. Bu özellik, geliştiricilerin GPT kullanırken özelleştirilmiş kod fonksiyonlarını çağırabilmelerini sağlar. Başka bir deyişle, akıllı AI'nın çeşitli API'lere bağlanabilmesini sağlar ve OpenAI'nin kullanılabileceği alanları büyük ölçüde artırır. Modelin güçlü performansı, geliştiricilerin birden fazla komut arayüzü sağlaması durumunda, GPT'nin hangi komutu çağıracağına kendisinin karar verebilmesi ve uygun parametreleri kullanarak çalıştırabilmesidir.

Örnek: Akıllı sensörlü ampul geliştiricisi iki komut sağlar: "rengi ayarla" ve "sensör zaman dilimini ayarla". Renk ayarlama komutunun üç parametresi vardır: beyaz ışık, doğal ışık ve gece lambası. GPT'ye "Gece için uygun bir ampul ayarla" ipucu verildiğinde, GPT otomatik olarak "rengi ayarla" komutunu kullanmaya karar verir ve parametre olarak "gece lambası" kullanır. Bu karar süreci tamamen insan müdahalesi gerektirmez. Geçmişte, bu işlevi gerçekleştirmek için NLP teknolojisi kullanarak özelleştirilmiş mantık yazmak gerekiyordu, ancak şimdi sadece GPT programını çağırarak bu işlevi gerçekleştirmek mümkün.

Bu Güncellemede Neler Değişti?

Bu güncelleme, GPT'nin hangi komut ve parametreyi kullanması gerektiğini daha hassas bir şekilde belirlemesini sağladı ve aynı zamanda GPT'nin yalnızca bir komutu bir defada çağırabilme yeteneğini geliştirdi. Önceden, daha karmaşık durumlarda, geliştiricilerin fonksiyonun birden fazla kez çağrılmasını sağlamak için ek programlar yazması gerekiyordu; bu güncelleme, GPT'nin birden fazla komutu bir defada çalıştırabilmesini ve her komutun sonucunun birbirine aktarılabilmesini sağladı. Örneğin: "Gece yarısı su içmeye alışkınım, uygun bir ampul modu ayarla" ipucu verildiğinde, GPT "rengi ayarla" ve "sensör zaman dilimini ayarla" komutlarını çağırmaya karar verebilir ve "sensör zaman dilimi" parametresini "01:00 ile 06:30 arası" olarak belirleyebilir, aynı zamanda "rengi ayarla" komutunu kullanarak parametreyi "gece lambası" olarak ayarlayabilir.

Ayrıca, dil modelinin önceki yanıtları "belirli bir formatta olmayan metin" olarak yanıt içeriyordu. Eğer belirli bir formatta yanıt isteniyorsa, ipucunda "lütfen xml formatında yanıt ver" şeklinde belirtilmesi gerekiyordu; ancak geliştiriciler sıklıkla karşılaştıkları sorun, yanıt formatının tam olarak xml olmaması ve genellikle karışık metin içermesi nedeniyle format dönüşümünde hatalar meydana gelmesiydi. Bu güncelleme ile GPT-4 Turbo, yanıt formatını xml veya json gibi yaygın API yanıt formatları olarak ayarlayabilen response_format parametresini ayarlamaya izin veriyor, bu da programın istikrarını artırıyor.

Son olarak, OpenAI, kullanıcıların Seed parametresini ayarlamalarına da izin veriyor. Bu parametre, GPT'nin yanıt içeriğinin rastgeleliğini belirler. Bu parametrenin ayarlanmasıyla, geliştiricilerin dil modelinin yanıtını tutarlı bir şekilde tutmasını sağlayabilir, geliştiricilerin test senaryoları yazarken daha güvende hissetmelerini sağlar (dil modelinin aniden farklı bir yanıt üretmesini önler), programın test edilebilirliğini ve kalitesini artırır.


Yukarıda belirtilen iki içeriğin yanı sıra, uygulama senaryolarının genişletilmesi açısından, asistan API'nin duyurulması DevDay'in ana odak noktasıdır.

Asistan API (Assistants API)

Geçmişte, büyük dil modelini kullanarak üretken AI uygulamaları geliştirmek için LangChain gibi üçüncü taraf paketler kullanmak gerekiyordu. Bu paketler, büyük dil modeline daha yüksek seviyeli yetenekler kazandırıyordu, örneğin: çoklu dil modellerinin bir arada kullanılması, özelleştirilmiş verilerin yetenekleri, hafıza ve ajan (Agent, AI'nın sürekli görevler ve sürekli kararlar alabilme yeteneği) gibi yetenekler, daha karmaşık AI senaryolarının uygulanmasını sağlıyordu.

DevDay'de duyurulan asistan API, yukarıda bahsedilen birçok yeteneği resmi API'ye entegre ederek, geliştiricilerin üçüncü taraf paketleri entegre etme sürecinde karşılaştıkları çeşitli zorlukları ortadan kaldırıyor. Bu, resmi olarak büyük dil modelinin performansını optimize etmenin ötesine geçerek, "ajan" uygulamalarını keşfetmeye başlamanın ilk adımıdır. Resmi belgeler, "bir asistan, belirli komutları kullanabilen, harici verileri kullanabilen veya farklı dil modelleri ve araçları kullanarak görevleri yerine getirebilen hedef odaklı bir AI'dır" şeklinde belirtmektedir.

Yeni asistan API, yukarıda belirtilen "fonksiyon çağrısı" dışında, "kod derleyici" ve "veri arama" gibi birkaç araç da sunmaktadır.

Kod Derleyici (Code Interpreter)

GPT-4'ün "kod derleyici" özelliği, kendi yazdığı kodun bir sanal ortamda çalıştırılmasına olanak tanır (şu anda yalnızca Python desteklenmektedir). Geçmişte mühendisler, GPT-4'ün yardımıyla yazılan kodu aldıktan sonra, kendi geliştirme ortamlarında test etmek için kopyalayıp yapıştırmak zorundaydı. Ancak OpenAI'nin sağladığı sanal ortam, GPT-4'ün kendi kodunu doğru bir şekilde incelemesine olanak tanır ve çalıştırma sonuçlarına göre kodu adım adım kendi kendine düzeltmesini sağlar, hedefe ulaşana kadar.

Ancak, kod derleyicinin işlevi, "GPT-4'ün kendi yazdığı kodun doğruluğunu incelemesine olanak tanımanın" ötesine geçer. Daha büyük anlamı, "büyük dil modelinin kendi bilgisayarına sahip olmasıdır." Bilgisayar, çoğu görevi yerine getirebilen bir araçtır. Şu anda büyük dil modelleri, komut programlama yöntemiyle etkileşimde bulunabiliyor. Sanal ortamda çalıştırılması, kod derleyicinin yalnızca belirli üçüncü taraf paketleri kullanabilmesini sağlasa da, "Python programlama dilinin iyi olduğu çoğu görevi" yerine getirebilir, örneğin: veri işleme ve API çağrısı yapabilir ve kullanıcı tarafından sağlanan daha büyük kod dosyalarını okuyabilir. Sanal ortam, güvenlik açısından, büyük dil modelinin güçlü yeteneklerinin kötüye kullanılmasını önler ve bu nedenle güvenlik açısından belirli bir güvence sağlar.

Veri Arama (Retrieval)

"Veri arama", kullanıcıların kendi verilerini (örneğin: belirli endüstri alanı verileri, ürün bilgileri veya iç belgeler) yüklemelerine ve büyük dil modelinin bu verilere yönelik yanıtlar vermesine olanak tanır. Bu işlev, GPT-3'ün piyasaya sürülmesinden bu yana birçok şirketin odak noktası olmuştur. DevDay'de duyurulan veri arama, bu işlev için resmi olarak ilk kez yerel bir çözüm sunmaktadır. Örneğin: şirketlerin iç bilgi robotları oluşturması, AI proje yöneticisi, AI sistem analisti gibi; sağlık, finans gibi alanlarda müşteri hizmetleri robotları oluşturulması, geçmişte karmaşık dil işleme teknolojileri kullanılarak gerçekleştirilebiliyordu. Şimdi, GPT-4'ün güçlü dil modeli ve OpenAI'nin resmi olarak sağladığı veri arama işlevi sayesinde, geliştiriciler iş mantığına, veri doğruluğuna ve ayrıntıların ayarlanmasına odaklanabilir. Ayrıca, geçmişte üçüncü taraf paketler kullanılarak gereken vektör veri tabanı, veri segmentasyonu veya belirli arama algoritmaları, OpenAI'nin resmi desteğiyle, bu geliştirme süreçleri ve bunların türev maliyetleri için ek çaba harcamaya gerek kalmaz. OpenAI ayrıca, asistan API'sinin kullandığı diyalogların ve dosyaların, OpenAI'nin bir sonraki modelini eğitmek için kullanılmayacağını özellikle vurgulamaktadır.

Sonuç

Genel olarak, OpenAI, modelin verimliliğini sürekli olarak optimize etmenin yanı sıra, büyük dil modelinin uygulama alanlarını da genişletmeye devam ediyor. Sam Altman, kısa vadede GPT-5'in piyasaya sürülmeyeceğini söyledi. Mevcut GPT-4'ün doğruluğu göz önüne alındığında, daha büyük parametreli bir dil modeli eğitmek için büyük maliyetler harcamanın gerekliliği düşük görünüyor. Bunun yerine, GPT-4'ün performansını, kullanılabilirliğini ve genişletilebilirliğini artırmak, şu anda OpenAI'nin odaklandığı ana konudur. Geliştiriciler, işletmeler ve son kullanıcılar için, daha güçlü ve çoğu senaryoda uygulanabilir AI'ların entegrasyonu, bir sonraki nesil dijital dönüşümün odak noktası haline gelmiştir. OpenAI'nin yarattığı GPT, gelecekteki teknoloji dünyasının beyni gibidir ve inanıyoruz ki, bundan sonraki yaratımlar ve ilerlemeler, yapay zekanın araçları daha iyi kullanmasını, "görmesini", "duymasını" ve akıcı bir şekilde "konuşmasını" ve "çizmesini" sağlayacaktır.