ChatGPT ja DeepSeek vääristävät tieteellistä dataa.

Tekoälymallien, kuten ChatGPT:n ja DeepSeekin, on havaittu pystyvän vääristämään tieteellistä sisältöä sitä tiivistettäessä, erityisesti lääketieteen alalla.

Báo Khoa học và Đời sống•08/07/2025

Saksalainen tutkijaryhmä varoitti hiljattain tekoälychatbottien käyttöön liittyvästä harhasta tutkimussisällön lyhentämisessä. Analysoituaan 4 900 ihmisen kirjoittamaa tieteellistä tiivistelmää ryhmä käytti erilaisia tekoälymalleja vertaillakseen, miten nämä järjestelmät käsittelivät tietoa. Tulokset osoittivat, että useimmat chatbotit tekivät virheen yleistämällä liikaa, jopa silloin, kun heitä pyydettiin tiivistämään tarkasti.

mikä-on-ai-chatbot.jpg

Tekoäly voi helposti vääristää sisältöä tieteellistä tutkimusta tiivistettäessä.

Kokeissa tekoälymallit tekivät viisi kertaa enemmän virheitä kuin ihmistutkijat, kun niitä ei ohjattu. Vaikka tarkkuusvaatimuksilla oli selkeät kriteerit, virheprosentti oli silti kaksinkertainen verrattuna tavanomaiseen yhteenvetoon. Yksi tutkimusryhmän jäsen kommentoi: "Yleistäminen voi joskus vaikuttaa harmittomalta, mutta se itse asiassa muuttaa alkuperäisen tutkimuksen luonnetta. Se on systeeminen vinouma."

Merkillepantavaa on, että chatbottien uudemmat versiot eivät ainoastaan estä ongelman ratkaisemista, vaan pikemminkin pahentavat sitä. Sujuvalla ja mukaansatempaavalla esitystavallaan tekoälyn luomat yhteenvedot antavat helposti vaikutelman luotettavuudesta, kun taas todellinen sisältö on vääristynyt. Yhdessä tapauksessa DeepSeek muutti ilmaisun "turvallinen ja onnistuneesti toteutettavissa" ilmaisuksi "turvallinen ja tehokas hoito" – tulkinta, joka poikkesi tutkimuksen alkuperäisistä johtopäätöksistä.

Saatat myös pitää tästä

Kuinka Pariisi käytti miljardeja euroja muuttaakseen Seine-joen "ilmastointilaitteeksi"?(Dan Tri -sanomalehti) - Yksittäisten jäähdytyslaitteiden tarpeen vähentämiseksi Pariisi on investoinut 2,4 miljardia euroa kaupunkien jäähdytysjärjestelmän laajentamiseen Seine-joen vedellä.

NASA testaa onnistuneesti tekoälysatelliittia, jonka ei tarvitse lähettää kuvia takaisin Maahan.Tutkijat ovat ensimmäistä kertaa onnistuneesti testanneet satelliittia, joka pystyy itsenäisesti tunnistamaan ja kuvailemaan havaintojaan kiertoradalta lähettämättä kaikkia kuvia takaisin Maahan.

Viettel avaa reaalimaailman datan kilpaileville tiimeille, jotka kehittävät tekoälyratkaisuja.Vietnamin armeijan televiestintäryhmä (Viettel) käynnisti 2. heinäkuuta Viettel AI Race 2026 -kilpailun. Tämän vuoden kilpailun kohokohta on, että erinomaisilla joukkueilla on pääsy reaalimaailman dataan, he voivat työskennellä suoraan asiantuntijoiden kanssa ja ratkaista Viettel'n tuotantoon ja liiketoimintaan liittyviä ongelmia.

Toisessa esimerkissä Llama-malli sovelsi diabeteslääkityksen suosituksia nuorille koehenkilöille määrittelemättä annostusta, antotiheyttä tai sivuvaikutuksia. Jos lukija, lääkäri tai terveydenhuollon ammattilainen, ei tarkista alkuperäistä tutkimusta, tällaiset yhteenvedot voivat aiheuttaa suoran vaaran potilaille.

Asiantuntijat uskovat tämän ilmiön johtuvan siitä, miten tekoälymalleja koulutetaan. Monet nykyiset chatbotit koulutetaan käyttämällä toissijaista dataa – kuten massatuotettuja tieteellisiä uutisia – joka on jo yksinkertaistettu. Kun tekoäly jatkaa tämän yksinkertaistetun sisällön tiivistämistä, vääristymien riski kasvaa.

Mielenterveysalan tekoälyasiantuntijat väittävät, että tekoälyn kehittämisen ja käytön tekniset esteet on poistettava pian.

099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg

Käyttäjien tulisi olla varovaisia, sillä chatbotit voivat helposti vääristää sisältöä.

Koska käyttäjät luottavat yhä enemmän tekoälychatbottien käyttöön tieteellisen tiedon oppimisessa, pienet tulkintavirheet voivat nopeasti kasaantua ja levitä, mikä johtaa laajalle levinneisiin väärinkäsityksiin. Aikana, jolloin luottamus tieteeseen on laskussa, tämä riski on erityisen huolestuttava ja vaatii asianmukaista huomiota.

Yhdysvallat - Vietnam: Älä missaa

Ulkoministeriö vastaanotti kopion Yhdysvaltain Vietnamin-suurlähettilään valtuuskirjeestä.Heinäkuun 2. päivän iltapäivänä ulkoministeriön päämajassa valtiollisen protokollan ja ulkomaankielten tulkkausosaston johtaja Le Cong Dung vastaanotti valtuuskirjeen Yhdysvaltojen Vietnamin-suurlähettiläältä Jennifer Wicksiltä.

Suurlähettiläs Nguyễn Quốc Dung vierailee ja työskentelee Minnesotassa, Yhdysvalloissa.Vietnamin Yhdysvaltain-suurlähettiläs Nguyễn Quốc Dung vieraili ja työskenteli Minnesotassa 28.–30. kesäkuuta.

Vietnam kannustaa yhdysvaltalaisia yrityksiä laajentamaan investointejaan korkean teknologian alalla.Kesäkuun 26. päivän aamuna hallituksen päämajassa varapääministeri Ho Quoc Dung otti vastaan Coherent Groupin (USA) toimitusketjun johtajan Jeff Placen. Tapaamisen aikana varapääministeri vahvisti, että Vietnam kannustaa yhdysvaltalaisia yrityksiä laajentamaan investointejaan, erityisesti korkean teknologian, innovaatioiden ja puolijohdeteollisuuden aloille.

Tekoälyn integrointi tutkimukseen ja tiedon levittämiseen on peruuttamaton trendi. Asiantuntijat kuitenkin väittävät, että teknologia ei voi korvata ihmisten roolia tieteellisen sisällön ymmärtämisessä ja todentamisessa. Käytettäessä chatbotteja riskialttiilla aloilla, kuten terveydenhuollossa, tarkkuus on asetettava etusijalle sen sijaan, että keskityttäisiin pelkästään sujuvaan kielikokemukseen tai vastausnopeuteen.

Lähde: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html