Opinii

Pietele financiare internationale sunt bulversate de aparitia si capabilitatile unui nou model AI - DeepSeek, care vine din China, de fapt de costurile extrem de reduse, comparativ cu sumele vehiculate in America.

De fapt, OPEN SOURCE are un moment important acum, asa cum am punctat in Ziarul Financiar, nu China si nici DeepSeek. DeepSeek-R1 reprezinta un exemplu bun ca "se poate", dar utilizarea, in afara curiozitatii aferente, ar trebui restransa. NU RESPECTA GDPR, in Politica de Confidentialitate nu se precizeaza ce date capteaza, ce face cu datele din prompts, cu metadatele, iar Informatiile sunt stocate in China. ESTE VULNERABIL SI PREZINTA GAURI DE SECURITATE asa cum a fost dovedit deja de KERA.

Chiar si instalat local - ceea ce doar alaturi de un expert ai putea face - ar trebui blocat orice acces catre servere din China, pentru siguranta suplimentara.

Si nu, nici America nu isi pierde suprematia... DE ALTFEL SINGURA TEHNOLOGIE EXCLUSIV CHINEZEASCA, PAGINA DE INREGISTRARE, NU A FUNCTIONAT IN ZIUA IN CARE LUMEA A AFLAT DE DEEPSEEK. Si mai ales ne prezinta inca un exemplu de dezinformare clasica, intrun moment de lipsa de capacitate, utilizatorii sunt informatii ca are loc un atac masiv rau intentionat! INAINTE DE ORICE, desi DeepSeek-R1 obtine performante bune si a reusit acest lucru cu costuri de dezvoltare mici - principalul avantaj, acesta a beneficiat de tehnologii si inovatii dezvoltate anterior de companii americane. DS-R1 nu putea exista fara arhitectura transformer dezvoltata de Google in 2017, a fost antrenat pe chip-uri moderne NVIDIA si pe date sintetice, in mare parte generate folosind modelul GPT-4 al OpenAI.

Focusul dezvoltarii a fost pus pe eficienta, obtinuta prin evolutie, imbunatatirile MoE - Mixture of Experts, ce permite activarea doar a parametrilor cei mai relevanti pentru generarea unui raspuns, eliminand nevoia de a utiliza intreaga capacitate a modelului si MLA - Multi-Head Latent Attention, care eficientizeaza stocarea informatiilor prin reducerea dimensiunii stocarii intermediare.

SINGURA INOVATIE RELEVANTA consta in utilizarea unui cadru avansat de antrenare in precizie mixta, prin adoptarea formatului floating point (FP8) pe tot parcursul procesului de antrenare. Anterior, modelele AI foloseau "precizie completa", bazata pe numere de 32 de biti, care ofera o reprezentare extrem de precisa, dar consumatoare de resurse. FP8 sacrifica o parte din aceasta precizie dar economiseste resurse semnificative de calcul si memorie. FP8 demonstreaza ca precizia completa nu este neaparat necesara, iar o abordare mai simpla poate aduce beneficii pe partea economica. De fapt CHINA face ceea ce stie cel mai bine, sa copieze un produs si sa il faca mai ieftin.

De altfel au existat rapoarte ale utilizatorilor, care insistand in promptul DEEPSEEK -R1 cu intrebari relativ la cine l-a produs, acesta raspundea ca... OpenAI! Avantajul ChatGPT este departe de a fi anulat in ceea ce priveste functionalitatile si capabilitatile, acesta oferind analiza vizuala, generare de imagini si permitand utilizatorilor interactiunile vocale, ceea ce DeepSeek arata partial doar in noua varianta Janus-Pro! Inca o data, este momentul OPEN SOURCE si aceasta aparitia este o veste extraordinara, pentru ca un software cu surse deschise este o dovada clara ca se poate si in afara bugetelor de miliarde de dolari, asa cum am sustinut anterior!

De maine vor exploda alte si alte modele complexe LLM din toata lumea, la fel cum in ultima perioada au explodat aplicatiile AI. Deja a aparut un alt model deschis Kimi.ai care personal m-a impresionat si mai mult prin capacitatea de cautare si referinta. Odata deschisa cutia Pandorei - oferirea publica a surselor - oricine isi poate crea un branch sau dezvolta un "operator" - un agent AI care sa realizeze sarcini de la simple la complexe si va accelera dramatic adoptarea AI in toate domeniile.

De urmarit cu atentie multe piste de de viitor, in special modelul Sky-T1 de la University of California, Berkeley, antrenat cu sume de ordinul sutelor de dolari, mai exact pana acum 450$! AR PUTEA SA IMPULSIONEZE SI ROMANIA PENTRU DEZVOLTAREA UNUI MODEL PROPRIU si sper sa o faca! Am inaintat aceasta provocare d-nului ministru Bogdan Ivan inca din octombrie 2023 la o intalnire comuna intre administratie si Repatriot AI, poate ar trebui revazuta aceasta propunere si pusa in practica.

Alaturi de solutiile de transformare a educatiei prin alinierea programei la certificari AI internationale, asocierea cu entitatile internationale, promovarea unor hub-uri regionale pentru IT si asumarea Inteligentei Artificiale ca strategie nationala ar putea oferi Romaniei o extraordinara sa faca parte din tarile lider in domeniu, si de ce nu, o sansa la un viitor mai bun.

Bogdan Tudor, fondator si CEO StarTech, doctorand la Georgia State University, SUA