Студентката работи в ETH Цюрих по ключовия въпрос дали AI може да заобикаля поставени ограничения, за да изпълни дадена задача
Българската студентка Мария Дренчева бе избрана в конкуренция с 2500 млади таланти за престижна изследователска швейцарска програма. Student Summer Research Fellowship (SSRF) се провежда ежегодно от университета ETH Цюрих и за нея се състезават някои от най-добрите студенти в света за едва 20 места.
В продължение на два месеца Мария Дренчева работи по един от ключовите въпроси за безопасността на съвременния изкуствен интелект – какво се случва, когато дадем на AI агент задача, но поставим ясни граници пред действията, които може да извършва. Изследването проверява дали в стремежа си да постигне зададената цел изкуственият интелект може да опита да заобиколи ограниченията и да предприеме действия, които не са му разрешени.
Работата ѝе част от Secure and Private AI Lab (SPY Lab) на ETH Цюрих – лаборатория, която изследва сигурността, поверителността и надеждността на системите с изкуствен интелект, като целенасочено търси техните слабости и начини те да бъдат преодолени. Мария работи под менторството на д-р Авитал Шафран и проф. Флориан Трамер – ръководител на лабораторията и един от утвърдените изследователи в областта на сигурността на машинното обучение.
Мария Дренчева е стипендиант на INSAIT в престижната програма EXPLORER и студент в Софийския университет „Св. Климент Охридски“. В публичното пространство тя е наричана „златното момиче“ на математиката заради успехите си в редица ученически олимпиади и международни състезания.
Въпреки младата си възраст Мария Дренчева вече има редица впечатляващи постижения. Нейна статия, разработена съвместно с ментори от INSAIT, е приета на ICLR в Сингапур – една от най-авторитетните конференции в света в областта на изкуствения интелект, където тя лично представя разработката като първи автор. През миналата година Дренчева е избрана и за стаж в Man Group – индустриален партньор на EXPLORER и една от водещите световни компании за управление на инвестиции с активи за над 250 млрд. долара.
