OpenAI se chopila příležitosti a přichází s novou zdravotní sekcí svého chatbota. Ten se snaží uživatele připravit na návštěvu lékaře, poradit při zdravotních potížích nebo laicky vysvětlit výsledky testů. Ty ale musíte v první řadě umělé inteligenci poskytnout, což by, jak zmiňuje odborník na umělou inteligenci Alexander Bruna, nemělo být zbrklé rozhodnutí.
ČTĚTE TAKÉ: Česku nedorazila pozvánka do Rady míru. Cena za členství je nemyslitelná, řekl Macinka
„Já bych byl velmi obezřetný. Všechna data, která dnes pošlete do ChatGPT, odletí na servery někde v Americe,“ upozorňuje. Na rizika sdílení důvěrných informací právě s OpenAI klade důraz i vývojář Jan Tyl. „Firma není vázána ničím jiným než malinkými písmenky, které nikdo nečte, a kdyžtak se omluví a řekne: Omlouvám se, tady došlo omylem k úniku dat,“ přibližuje hořkosladce úskalí svěřování dat.
ChatGPT má tendenci si vymýšlet
I zdravotní experti upozorňují občany, aby do posudků umělé inteligence nevkládali příliš důvěry. „Není to zdravotnický prostředek. Neslouží to k tomu, aby s tím pacient dokonzultoval svůj stav nebo léčbu. Je to pro výchozí orientaci a nejsme schopni zaručit, že data zůstanou zarámovaná v komunikaci s pacientem,“ připomíná ředitel Národního centra elektronického zdravotnictví Ministerstva zdravotnictví Petr Foltýn.
OpenAI se ale brání a tvrdí, že data jsou v bezpečí. U možného úniku dat to ale nekončí. Někteří odborníci také varují, že chatbot často neříká tak úplně pravdu. Bruna podotýká, že ChatGPT „trpí tím, že halucinuje“. „Vlastně má tendenci si vymýšlet a často dělá ještě jednu věc – zrcadlí uživatele. Čili pokud máte nějaký problém nebo pozná, že jste v nějakém rozpoložení a chcete nějaký typ odpovědi, tak vám ji často dá,“ přibližuje.
Foltýn připomíná, že nejde dávat veškerou důvěru v umělou inteligenci. „Teď bychom od lékaře dostali za uši. V situaci, kdy jde o naše zdraví, se ChatGPT může dostat do úzkých, do situace, kdy neví a vydá se nějakou cestou své teorie, která může zdraví ohrozit,“ podotkl. ChatGPT Health se zatím spouští postupně. Evropská unie je mimo první vlnu, Češi si tak ještě nějakou chvíli počkají.
