MIT a creat un algoritm care obligă inteligența artificială generativă să respecte perfect regulile de siguranță
În aplicații unde o greșeală poate însemna o coliziune sau un accident, „aproape corect” nu ajunge. Noul algoritm de la MIT garantează că răspunsul final respectă toate regulile, fără să sacrifice calitatea.
O echipă de la MIT a dezvoltat un algoritm numit HardFlow, care rezolvă o problemă veche a inteligenței artificiale generative, și anume că modelele produc uneori rezultate „aproape corecte”, dar care încalcă reguli stricte de siguranță. În aplicații precum planificarea traseului unui robot pe o hală de producție aglomerată, un răspuns aproape corect poate însemna o coliziune reală.
Cercetarea, publicată în IEEE Transactions on Pattern Analysis and Machine Intelligence, îi are ca autori pe doctoranzii Zeyang Li și Kaveh Alim și pe profesorul Navid Azizan, de la Departamentul de Inginerie Mecanică al MIT.
Cum funcționează
Metodele actuale de a impune constrângeri unui model generativ obligă fiecare pas intermediar al generării să respecte deja regula finală, ceea ce limitează foarte mult soluțiile pe care modelul le poate găsi. HardFlow reformulează procesul ca pe o problemă de optimizare a traiectoriei, folosind teoria controlului optimal, și lasă modelul liber să exploreze soluții pe parcurs, atât timp cât rezultatul final respectă strict constrângerea.
Testat pe manipulare robotică, navigarea unui labirint și editarea de imagini ghidată prin text, algoritmul a obținut, conform cercetătorilor, „satisfacere perfectă a constrângerilor” în toate cele trei tipuri de experimente. Roboții au reușit să evite coliziunile găsind în același timp cel mai scurt traseu posibil, iar timpul de calcul a fost comparabil sau mai mic decât al metodelor concurente, fără sacrificii de calitate.
Ce urmează
HardFlow poate fi aplicat direct unor modele deja antrenate, fără să fie nevoie de reantrenare, ceea ce îl face relativ ușor de integrat în sisteme existente. Echipa de cercetare spune că un pas viitor ar fi extinderea metodei la situații în care chiar modelul de inteligență artificială poate fi actualizat pe parcurs, nu doar rezultatele sale.
Sursă: MIT News