🤝 OpenAI, Anthropic i Google udružuju snage protiv kineskih rivala
Takođe: Anthropic lansira Project Glasswing
OpenAI, Anthropic i Google rade zajedno da spreče kineske rivale da kopiraju njihove najnaprednije modele koristeći trikove poput destilacije. To je nova vrsta tehnološkog saveza, i znak da se trka za zaštitu AI inovacija zahuktava.
U današnjim vestima:
- →OpenAI, Anthropic i Google udružuju snage protiv kineskih rivala
- →Anthropic lansira Project Glasswing da ukroti svoj najopasniji model
- →OpenAI-jev plan za AI ekonomiju
🤝 OpenAI, Anthropic i Google udružuju snage protiv kineskih rivala
OpenAI, Anthropic i Google udružuju snage da spreče kineske rivale da kloniraju njihove najnaprednije AI modele kroz neovlašćenu destilaciju.
Ključne tačke:
- •Tri rivala dele obaveštajne podatke kroz Frontier Model Forum kako bi otkrili i blokirali pokušaje neprijateljske destilacije.
- •Anthropic je javno imenovao DeepSeek, Moonshot i MiniMax kao kompanije koje su izvukle sposobnosti iz njegovog Claude modela.
- •Američki zvaničnici procenjuju da ove neovlašćene prakse kopiranja koštaju američke AI laboratorije milijarde izgubljenih prihoda godišnje.
Detalji:
Tri kompanije dele informacije kroz Frontier Model Forum kako bi otkrile neprijateljsku destilaciju, tehniku gde se izlazi postojećeg AI modela koriste za obuku jeftinijeg kopiranja. Kineski programeri ponavljano šalju upite sistemima poput ChatGPT-a, Claude-a ili Gemini-ja, a zatim koriste izlaze za obuku konkurentskih modela po daleko nižoj ceni. Destilacija je standardna tehnika gde veliki 'učiteljski' model obučava manji 'studentski' model. Problem je neprijateljska destilacija, gde spoljne laboratorije bombarduju američke modele automatizovanim promptovima da kloniraju osnovno ponašanje bez ulaganja u originalnu obuku. Da bi se borile, kompanije razvijaju tehnologije za identifikaciju nenormalnih obrazaca saobraćaja koji signaliziraju automatizovane pokušaje kloniranja.
Zašto je važno:
Ova saradnja je značajna jer su OpenAI, Google i Anthropic žestoki komercijalni rivali, a opet je pretnja od neprijateljske destilacije dovoljno ozbiljna da ih gurne u formalni sporazum o deljenju obaveštajnih podataka. Zabrinutost prevazilazi izgubljene prihode. Američke AI firme upozoravaju da kopiranje bez bezbednosnih mera može dovesti do postavljanja moćnih modela bez ugrađene zaštite, povećavajući rizik od zloupotrebe. Pored toga, ako kineske laboratorije mogu replicirati frontier sposobnosti za delić cene, to podriva ogromna ulaganja koja su zapadne kompanije uložile u originalno istraživanje.
Anthropic je predstavio Project Glasswing, sveobuhvatnu industrijsku koaliciju izgrađenu oko novog Mythos Preview modela i njegove neviđene sposobnosti pronalaženja i eksploatisanja softverskih ranjivosti.
Ključne tačke:
- •Mythos Preview je već pronašao hiljade ranjivosti visokog stepena potpuno autonomno, bez ljudskog usmeravanja.
- •Anthropic obećava do 100 miliona dolara u kreditima za korišćenje Mythos Preview-a kroz Project Glasswing, plus 4 miliona dolara u direktnim donacijama organizacijama za bezbednost otvorenog koda.
- •Anthropic kaže da bi moglo proći samo šest do osamnaest meseci pre nego što druge AI kompanije objave modele uporedivih sposobnosti.
Detalji:
Project Glasswing okuplja AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA i Palo Alto Networks u nastojanju da obezbede najkritičniji softver na svetu. Inicijativa je formirana oko zastrašujućeg otkrića: AI modeli su dostigli nivo sposobnosti kodiranja gde mogu nadmašiti sve osim najiskusnijih ljudi u pronalaženju i eksploatisanju softverskih ranjivosti. Rezultati modela u stvarnom svetu su upečatljivi. Mythos Preview je pronašao 27 godina staru ranjivost u OpenBSD-u koja je omogućavala napadaču da daljinski sruši bilo koji uređaj samo povezivanjem na njega. Takođe je otkrio 16 godina star propust u FFmpeg-u u liniji koda koju su automatizovani alati za testiranje pogodili pet miliona puta bez da su uhvatili problem.
Zašto je važno:
Project Glasswing je neobičan potez: kompanija otvoreno priznaje da je njen sopstveni model previše opasan za objavljivanje i gradi odbrambenu koaliciju pre nego što to učini. Iza Mythos-a je sledeći OpenAI model, i sledeći Google Gemini, i nekoliko meseci iza njih su modeli otvorenog koda, što znači da je prozor za odbranu da zauzmu prednost uzak. Da li koalicija od 12 kompanija može da pretekne globalni talas sve sposobnijih modela je ključno pitanje ove inicijative.
📈 OpenAI-jev plan za AI ekonomiju
OpenAI je objavio set predloga ekonomske politike za navigaciju usponom superinteligentnog AI-ja.
Ključne tačke:
- •OpenAI poziva na osnivanje Fonda Javnog Bogatstva koji bi svim Amerikancima dao udeo u rastu vođenom AI-jem, ne samo investitorima.
- •Kompanija predlaže porez na robote i prelazak sa oporezivanja rada na oporezivanje kapitala kako AI erodira tradicionalnu poresku bazu.
- •Subvencionisana četvorodnevna radna nedelja je na stolu, ali kritičari primećuju da plan i dalje ostavlja raseljene radnike iza sebe.
Detalji:
OpenAI je objavio politički okvir koji opisuje kako bi bogatstvo i rad mogli biti restruktuirani u onome što naziva 'doba inteligencije'. Predlozi kombinuju progresivne mehanizme poput proširenih sigurnosnih mreža sa tržišno orijentisanim ekonomskim modelom. OpenAI upozorava da bi rast vođen AI-jem mogao isprazniti poresku bazu koja finansira Socijalno osiguranje, Medicaid i pomoć za stanovanje dok se korporativni profiti šire a oslanjanje na prihode od rada smanjuje. Da bi se to suzbilo, kompanija predlaže više poreze na korporativni prihod i kapitalne dobitke na vrhu, kao i potencijalni porez na robote.
Zašto je važno:
OpenAI (sada kompanija vredna 852 milijarde dolara koja pravi profit nakon što je počela kao neprofitna organizacija) uokviruje ove predloge kao poziv za 'novu industrijsku politiku' koja bi osigurala da superinteligencija koristi svima. Ali tenzija je teška za ignorisanje. Kompanija koja direktno profitira od automatizacije sada dizajnira sigurnosnu mrežu za one koje zamenjuje. Dok AI preoblikuje tržišta rada, pitanje nije samo koje su sigurnosne mreže predložene, već ko ih zaista gradi i koga ostavljaju iza sebe.
Brze vesti
- 🤝dogovor sa Google-om i Broadcom-om — Anthropic sklapa dogovor sa Google-om i Broadcom-om za obezbeđivanje AI čipova; prihod prelazi 30 milijardi dolara godišnje.
- 🚗Uber se oslanja na AWS — Uber se oslanja na AWS za pokretanje miliona dnevnih vožnji i obuku AI modela.
- 🤖robotski roj — Istraživači grade robotski roj bez elektronike, baterija i mozgova.
- 🗺️opise fotografija pokretane AI-jem — Google Maps dodaje opise fotografija pokretane AI-jem preko Gemini-ja.
📈 AI alati u trendu
- 🛠️Base44 — Napravite potpuno funkcionalne aplikacije za nekoliko minuta samo rečima, bez kodiranja
- 🧠Brainly — AI pratilac za učenje
- 💬Character AI — Chatbot platforma za razgovor sa AI ličnostima, od fiktivnih likova do istorijskih figura
- ✍️Sudowrite — AI alat za pisanje fikcije koji podiže kreativnost