Генеративна вештачка интелигенција (ВИ): СЗО издава ново Упатство за управување со LMM

СЗО има издадено ново упатство за етиката и управувањето со големите мултимодални модели (LMM) за нивна соодветна употреба за промовирање и заштита на здравјето на населението. LMM е еден вид брзорастечки генератор вештачка интелигенција (ВИ) технологија која има пет широки апликации за здравјето in 

1. Дијагноза и клиничка нега, како одговор на писмените прашања на пациентите; 

2. Употреба водена од пациентот, како на пример за испитување симптоми и третман; 

3. Канцелариски и административни задачи, како што се документирање и сумирање на посети на пациенти во електронската здравствена евиденција; 

4. Медицинско и сестринско образование, вклучително и обезбедување на специјализантите со симулирани средби со пациенти и; 

5. Научно истражување и развој на лекови, вклучително и да се идентификуваат нови соединенија. 

Сепак, овие апликации во здравството имаат ризик од производство на лажни, неточни, пристрасни или нецелосни изјави, што може да им наштети на луѓето кои ги користат таквите информации при донесувањето здравствени одлуки. Понатаму, LMM може да се обучуваат за податоци кои се со слаб квалитет или пристрасни, без разлика дали се по раса, етничка припадност, потекло, пол, родов идентитет или возраст. Постојат и пошироки ризици за здравствените системи, како што се пристапноста и достапноста на LMM со најдобри перформанси. LMM, исто така, може да поттикнат „пристрасност за автоматизација“ од страна на здравствените работници и пациентите, при што се занемаруваат грешки кои инаку би биле идентификувани или тешките избори се неправилно делегирани на LMM. LMM, како и другите форми на AI, исто така се ранливи на сајбер-безбедносните ризици кои би можеле да ги загрозат информациите за пациентите или доверливоста на овие алгоритми и обезбедувањето здравствена заштита пошироко. 

Затоа, за да се создадат безбедни и ефективни LMM, СЗО даде препораки за владите и развивачите на LMM. 

Владите имаат примарна одговорност да постават стандарди за развој и распоредување на LMM и нивна интеграција и употреба за јавно здравје и медицински цели. Владите треба да инвестираат или да обезбедат непрофитна или јавна инфраструктура, вклучувајќи компјутерска моќ и јавни збирки податоци, достапни за програмерите во јавниот, приватниот и непрофитниот сектор, што бара од корисниците да се придржуваат до етичките принципи и вредности во размена за пристап. 

· Користете закони, политики и прописи за да се осигурате дека LMM и апликациите што се користат во здравствената заштита и медицината, без оглед на ризикот или користа поврзана со AI технологија, исполнување на етичките обврски и стандардите за човекови права кои влијаат, на пример, на достоинството, автономијата или приватноста на една личност. 

· Назначете постоечка или нова регулаторна агенција да ги процени и одобрува LMM и апликациите наменети за употреба во здравствената заштита или медицината – како што дозволуваат ресурсите. 

· Воведување на задолжителна ревизија по објавувањето и проценки на влијанието, вклучително и за заштита на податоците и човековите права, од независни трети страни кога LMM е распореден во голем обем. Ревизијата и проценките на влијанието треба да бидат објавени 

и треба да вклучува исходи и влијанија поделени според типот на корисник, вклучително на пример по возраст, раса или попреченост. 

· LMM се дизајнирани не само од научници и инженери. Потенцијалните корисници и сите директни и индиректни чинители, вклучително и медицинските даватели, научните истражувачи, здравствените работници и пациентите, треба да бидат ангажирани уште од раните фази на AI развој во структуриран, инклузивен, транспарентен дизајн и дадени можности за покренување етички прашања, изразување на загриженоста и обезбедување придонес за AI апликација која се разгледува. 

LMM се дизајнирани да извршуваат добро дефинирани задачи со потребната точност и доверливост за да се подобри капацитетот на здравствените системи и да се унапредат интересите на пациентите. Програмерите исто така треба да бидат способни да ги предвидат и разберат потенцијалните секундарни исходи. 

*** 

извор: 

СЗО 2024. Етика и управување со вештачката интелигенција за здравје: насоки за големи мулти-модални модели. Достапно на https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y 

***