Op 06-11-2023 vond de OpenAI DevDay plaats, waar OpenAI CEO Sam Altman opnieuw de grenzen van OpenAI verlegde, waardoor AI-ontwikkelaars nieuwe mogelijkheden kregen. In dit artikel ontdekken we de aantrekkingskracht van GPT-4 Turbo voor softwareontwikkelaars.

Tijdens de OpenAI DevDay op 06-11-2023, terwijl andere grote technologiebedrijven nog steeds proberen de prestaties van GPT-4 bij te benen, heeft OpenAI CEO Sam Altman opnieuw de grenzen van OpenAI verlegd, waardoor AI-ontwikkelaars nieuwe mogelijkheden kregen en de leidende positie van OpenAI in kunstmatige intelligentie werd bevestigd.

De Krachtige GPT-4 Turbo: Sneller, Grotere Teksthoeveelheid en Goedkoper

De context verwijst naar de totale teksthoeveelheid van 'input prompts en dialogen' voor grote taalmodellen. Voorheen was de maximale teksthoeveelheid beperkt tot 32.000 tokens (alleen beschikbaar voor sommige ontwikkelaars), maar GPT-4 Turbo ondersteunt tot 128.000 tokens, wat betekent dat je een boek van 300 pagina's in één keer kunt invoeren voor generatie. Qua snelheid was de traagheid van GPT-4 een veelgehoorde klacht, waardoor bedrijven vaak GPT-3.5 gebruikten voor praktische toepassingen. GPT-4 Turbo lost dit probleem op door een snelheid te bieden die vergelijkbaar is met GPT-3.5, wat toekomstige integraties verrijkt. Bovendien zijn de kosten voor prompts drie keer goedkoper en de kosten voor tekstoutput twee keer goedkoper dan de vorige versie van GPT-4.

Vriendelijkere Functieaanroep voor Ontwikkelaars

Wat is Functieaanroep?

OpenAI introduceerde eerder dit jaar de 'functieaanroep' functie, waarmee ontwikkelaars aangepaste codefuncties kunnen aanroepen bij het gebruik van GPT. Dit betekent dat slimme AI kan worden gekoppeld aan verschillende API's, waardoor het toepassingsgebied van OpenAI aanzienlijk wordt vergroot. Het model kan zelfstandig beslissen welke instructie moet worden aangeroepen en de juiste parameters gebruiken.

Voorbeeld: Een ontwikkelaar van slimme sensorlampen biedt twee instructies: 'kleur instellen' en 'detectieperiode instellen'. De parameters voor de kleurinstelling zijn: wit licht, natuurlijk licht en nachtlampje. Wanneer je GPT vraagt: 'Stel een geschikte lamp voor de nacht in', kiest GPT automatisch voor de instructie 'kleur instellen' met de parameter 'nachtlampje', zonder menselijke tussenkomst. Voorheen was NLP-technologie nodig om dergelijke logica te schrijven, nu kan dit eenvoudig met GPT-aanroepen.

Wat is Er Deze Keer Gewijzigd?

De update maakt het mogelijk voor GPT om nauwkeuriger te bepalen welke instructie en parameter moeten worden gebruikt, en verbetert de beperking dat GPT slechts één instructie tegelijk kan aanroepen. Voorheen moesten ontwikkelaars extra code schrijven voor complexe situaties om meerdere instructies aan te roepen; nu kan GPT meerdere instructies tegelijk uitvoeren en de resultaten doorgeven. Bijvoorbeeld: Bij de prompt 'Ik sta 's nachts vaak op om water te drinken, stel een geschikte lampmodus in', kan GPT zowel 'kleur instellen' als 'detectieperiode instellen' aanroepen, met de parameter 'tijd 01:00 tot 06:30' en 'nachtlampje' voor de kleurinstelling.

Bovendien waren de antwoorden van taalmodellen voorheen in 'niet-specifieke tekstformaten'. Als een specifiek formaat gewenst was, moest dit in de prompt worden aangegeven, zoals 'antwoord in XML-formaat'. Ontwikkelaars ondervonden vaak problemen met gemengde tekstformaten, wat conversiefouten veroorzaakte. GPT-4 Turbo staat nu toe dat ontwikkelaars het response_format instellen op XML of JSON, wat de stabiliteit van de code verhoogt.

Tot slot kunnen gebruikers nu de Seed-parameter instellen, die de willekeurigheid van GPT-antwoorden bepaalt. Dit zorgt ervoor dat ontwikkelaars consistente antwoorden krijgen, wat geruststellend is bij het schrijven van testcases en de testbaarheid en kwaliteit van de code verhoogt.

Assistants API

Voorheen was het ontwikkelen van generatieve AI-toepassingen met grote taalmodellen afhankelijk van derde-partij pakketten zoals LangChain, die geavanceerde mogelijkheden boden zoals meertalige modellen, aangepaste data, geheugen en agenten (voor continue taken en beslissingen). Tijdens DevDay werd de Assistants API gelanceerd, die deze mogelijkheden in de officiële API integreert, waardoor ontwikkelaars de problemen met derde-partij integraties vermijden. Dit is de eerste keer dat de officiële focus verschuift van puur modeloptimalisatie naar het verkennen van 'agent'-toepassingen. Volgens de officiële documentatie is een assistent een doelgerichte AI die specifieke instructies, externe data of verschillende taalmodellen en tools kan gebruiken om taken uit te voeren.

De nieuwe Assistants API bevat ook tools zoals 'functieaanroep', 'code-interpreter' en 'gegevensophaling'.

Code Interpreter

De 'code-interpreter' van GPT-4 maakt het mogelijk om zelfgeschreven code in een sandbox-omgeving uit te voeren (momenteel alleen Python ondersteund). Voorheen moesten ingenieurs de door GPT-4 geschreven code kopiëren en plakken in hun ontwikkelomgeving voor tests. De sandbox-omgeving van OpenAI stelt GPT-4 in staat om zelf de juistheid van de code te controleren en deze stapsgewijs aan te passen tot het doel is bereikt.

De code-interpreter gaat verder dan alleen het controleren van de juistheid van de code; het biedt grote taalmodellen hun eigen 'computer', die de meeste taken kan uitvoeren. Hoewel de sandbox-omgeving beperkt is tot specifieke derde-partij pakketten, kan het nog steeds 'de meeste taken die Python goed aankan' uitvoeren, zoals gegevensverwerking en API-aanroepen, en grotere codebestanden van gebruikers lezen. De sandbox-omgeving biedt veiligheid door misbruik van de krachtige mogelijkheden van grote taalmodellen te voorkomen.

Gegevensophaling

'Gegevensophaling' stelt gebruikers in staat hun eigen gegevens (zoals branchegegevens, productinformatie of interne documenten) te uploaden, zodat grote taalmodellen vragen over deze gegevens kunnen beantwoorden, toegepast in hun eigen branche of veld. Sinds de introductie van GPT-3 is dit een belangrijk aandachtspunt geweest. De tijdens DevDay gelanceerde gegevensophaling biedt voor het eerst een native oplossing voor deze functie, zoals het bouwen van interne kennisrobots voor bedrijven, AI-projectmanagers, AI-systeemanalisten, en klantenservicerobots in de gezondheidszorg en financiën. Voorheen waren complexe taalverwerkingstechnieken nodig om dit te realiseren, maar met de krachtige taalmodellen van GPT-4 en de officiële gegevensophaling van OpenAI kunnen ontwikkelaars zich nu richten op zakelijke logica, gegevensnauwkeurigheid en detailafstemming. Bovendien zijn de vector databases, gegevenssegmentatie of specifieke zoekalgoritmen die voorheen nodig waren bij derde-partij pakketten, nu niet meer nodig dankzij de ondersteuning van OpenAI, wat extra ontwikkelingswerk en kosten bespaart. OpenAI benadrukt ook dat de gesprekken en bestanden die met de Assistants API worden gebruikt, niet worden gebruikt om de volgende generatie modellen van OpenAI te trainen.

Conclusie

Over het algemeen blijft OpenAI niet alleen de efficiëntie van modellen optimaliseren, maar ook de toepassingen van grote taalmodellen uitbreiden. Sam Altman heeft gezegd dat GPT-5 op korte termijn niet zal verschijnen. Gezien de huidige nauwkeurigheid van GPT-4 lijkt het niet noodzakelijk om veel kosten te besteden aan het trainen van een groter model. In plaats daarvan ligt de focus van OpenAI op het verbeteren van de prestaties, bruikbaarheid en uitbreidbaarheid van GPT-4. Voor ontwikkelaars, bedrijven en eindgebruikers is het integreren van krachtige AI die in de meeste scenario's kan worden toegepast, een belangrijk aandachtspunt voor de volgende generatie digitale transformatie. De door OpenAI gecreëerde GPT fungeert als het brein van de toekomstige technologische wereld, en we geloven dat de komende creaties en vooruitgang AI beter in staat zullen stellen om tools te gebruiken, te 'zien', te 'horen', vloeiend te 'spreken' en te 'tekenen'.