Egyre fontosabb kérdés, hogy miként lehet ellenőrizni a mesterséges intelligencia által adott válaszokat. Magyar kutatók egy olyan rendszeren dolgoznak, amely nem egyszerűen azt vizsgálná, hogy mit válaszol egy AI, hanem azt is, mennyire megbízható az adott válasz a rendelkezésre álló információk alapján.
A meggyőző válasz még nem feltétlenül igaz
A mesterséges intelligencia egyik sajátossága, hogy rendkívül magabiztosan és gördülékenyen képes megfogalmazni egy választ akkor is, ha az alapjául szolgáló információ hiányos vagy bizonytalan.
A magyar kezdeményezés egyik célja éppen ezért egy modellfüggetlen ellenőrzési réteg létrehozása. A szakemberek által ismertetett elképzelés szerint ez egyfajta „biztonsági kapuként” működhetne az AI-rendszerek előtt.
Az ellenőrzés több szempontot is figyelembe venne: például azt, hogy logikus-e az érvelés, vannak-e ellentmondások a válaszban, rendelkezésre állnak-e a szükséges adatok, illetve milyen torzítások befolyásolhatják az eredményt.
Az AI fejlődésével az ellenőrzés is egyre fontosabb
A kutatók szerint a technológia fejlődési sebessége miatt nem elég csupán egyre nagyobb és gyorsabb modelleket készíteni. Legalább ilyen fontos annak ellenőrzése is, hogy ezek a rendszerek mikor és milyen körülmények között tévedhetnek.
A cél tehát nem az lenne, hogy az AI helyett egy másik rendszer „megmondja az igazságot”, hanem hogy jelezze: mennyire áll biztos alapokon az adott válasz.
