Token maliyetlerini düşürmeye odaklanan AI bellek girişimi 98 milyon dolar topladı

Kurumsal Amerika nihayet geliştiricilerin yapay zeka kullanımına karşı önlem almaya başlarken, Engram adlı 8 aylık bir startup, şirketlerin para tasarrufu yapmasına yardımcı olma konusunda büyük bir iş fırsatı görüyor.

Engram Salı günü, aralarında General Catalyst, Kleiner Perkins ve Sequoia'nın yanı sıra yakın zamanda Anthropic'e katılan OpenAI kurucu ortağı Andrej Karpathy'nin de bulunduğu yatırımcılardan 98 milyon dolar topladığını duyurdu.

Kendini yapay zekanın “öğrenilmiş hafızası” olarak adlandıran girişim, modellerinin kuruluşa özgü iş akışlarını ve bağlamı hatırlayarak soruları önceden tahmin edebildiğini ve daha ucuz çıktıyla daha akıllı yanıtlar verebildiğini söylüyor. Şirket, modellerinin yapay zeka sorgularını çalıştırmak için kullanılan para birimi olan 100 kata kadar daha az token kullanarak sınır laboratuvarlarıyla eşleşebileceğini veya onlardan daha iyi performans gösterebileceğini iddia ediyor.

Yeni ve daha karmaşık yapay zeka modelleri, önceki modellere göre daha pahalı hale geliyor ve daha büyük ölçeğin daha düşük maliyetlere yol açacağı yönündeki geleneksel görüşe meydan okuyor.

Kleiner'ın ortaklarından Leigh Marie Braswell, “Veri patlaması ve maliyet patlamasıyla karşı karşıyayız” dedi. “Engram devreye giriyor ve temel olarak organizasyonunuzun haritasını çıkarıyor ve çok daha ucuz çıktılar sunuyor.”

Kuruluşundan bir yıldan az bir süre sonra, 13 kişilik şirket aşağıdakileri içeren bir müşteri kadrosu oluşturdu: MicrosoftKavram ve yasal AI girişimi Harvey. Beyindeki hafıza izini ifade eden sinirbilim teriminden gelen Engram, fonu bilgi işlem ve yeteneği desteklemek için kullanmayı planlıyor.

Engram'ın kurucu ortağı ve CEO'su Dan Biderman'ın hafıza konusunda ömür boyu süren bir takıntısı var. Her şeyin çocukken başladığını, hafızasını kaybetmiş büyükannesini kendisi ve kardeşleri hakkındaki küçük gerçekleri hatırlaması için kandırmaya çalışmakla başladığını söyledi.

Bu, Biderman'ın sonunda Columbia Üniversitesi'nde hesaplamalı sinir bilimi alanında doktora yapmasına ve daha sonra Stanford Üniversitesi'nin yapay zeka laboratuvarına katılmasına yol açtı. Stanford'da çalışan Biderman, “dahi yabancı model” olarak adlandırdığı şeyin farkına varmaya başladı: Yapay zekanın akıllı olduğu ancak hafızasının göründüğünden çok daha sınırlı olduğu fikri. Aynı zamanda, daha fazla bağlam, daha fazla araştırma ve okumanın yanı sıra daha yüksek maliyetler gerektirerek modelleri bunaltabilir.

Biderman, Engram'ın modellerinin OpenAI ve Anthropic gibi modellerden “kesinlikle daha iyi” olmadığını kabul ediyor, ancak bazen diğer yeteneklerin pahasına uzmanlaşma konusunda mükemmel olduklarını söylüyor.

Biderman, “Mevcut not almanın ötesine geçmeye ve insanların sahip olduğu, ancak mevcut modellerin sahip olmadığı bu sezgi katmanını oluşturmaya çalışıyoruz” dedi.

KOL SAATİ: Yapay zekaya aşırı harcama yapmanın çözümü OpenAI ve Anthropic için bir sorundur