• Nangijala@feddit.dk
    link
    fedilink
    arrow-up
    5
    ·
    6 months ago

    Jeg synes at netop sådanne opgaver er oplagte at bruge AI til. Jeg kan dog godt have mine tvivl om, om AI i sin nuværende form vil være pålidelig nok til at klare disse administrative opgaver uden at hallucinere. Det kan potentielt skabe sindssygt meget rag i den, hvis den laver fejl. Det ville kunne koste staten en masse penge eller i værste fald, kunne det koste menneskeliv.

    Synes dog at det ville være meget positivt at bruge AI til at lette noget af den i forvejen umenneskelige arbejdsbyrde folk i det offentlige ligger under.

    Jeg håber dog at man ikke vil sætte sin lid blindt til AI, især her i de tidlige stadier. Især når det kommer til dosering af medicin, der må jeg indrømme at jeg bliver lidt nervøs ved tanken om at lade en AI klare det på nuværende tidspunkt. På længere sigt, ja, men ligenu? Uha, nej tak. Så kan de fortælle mig hvor præcis den er og hvor få fejl den laver til de er blå i ansigtet. Jeg synes det er alt for tidligt at give den folks liv i hænderne på den måde.

    Jeg er forsigtigt optimistisk omkring denne brug af AI. Jeg tror virkelig at det ville kunne revolutionere det offentlige på en positiv måde og måske kunne budgetterne og arbejdskraften allokeres bedre fremadrettet.

    • farsinuce@feddit.dk
      link
      fedilink
      arrow-up
      4
      ·
      edit-2
      6 months ago

      Jeg kan dog godt have mine tvivl om, om AI i sin nuværende form vil være pålidelig nok til at klare disse administrative opgaver uden at hallucinere

      Dén type opgaver, tænker jeg, teknologien efterhånden kan håndtere OK.

      • Manipulation af eksisterende information (f.eks. dét at opsummere eller omstrukturere data) er et godt sted at bruge en LLM som hjælpemiddel.
      • At generere ny data derimod er en anderledes opgave, hvor modellerne oftere risikerer at hallucinere fabulere.

      Især når det kommer til dosering af medicin, […] Jeg synes det er alt for tidligt at give den folks liv i hænderne på den måde.

      Sandt, men ro på. Lad os først prøve med lettere lydreferater (speech-to-text), så må Terminator vente pænt til sin tur 🙂


      Edit: Kilde på term: https://www.beren.io/2023-03-19-LLMs-confabulate-not-hallucinate/