Nieuw is het inderdaad niet, mensen laten zich graag wat wijsmaken. In die zin vind ik de bijbel, de koran of de Voetbal International ook fake news.

Wat ik wil zeggen is dat de ratio fakenews waarschijnlijk hetzelfde is gebleven. DE hoeveelheid informatie die we krijgen is verre van hetzelfde.

Dat denk ik ook.

Maar om maar even met Doe Maar te spreken: er zit een knop op je computer.

quote:

---

Op 15 december 2017 13:16 schreef ElitE het volgende:
Wat ik wil zeggen is dat de ratio fakenews waarschijnlijk hetzelfde is gebleven. DE hoeveelheid informatie die we krijgen is verre van hetzelfde.

---

Ik betwijfel dat eerste. Doordat ontwikkelingen snel gaan, zal regulering achterblijven. Kijk naar cryptocurrencuies, daar is zo ontzettend veel fake news, fake reviews, fake pricing etc mee gemoeid. De ratio fake shizzle daar is enorm. Ik denk dat de ratio bij vooral extreem nieuwe en nog niet goed gereguleerde zaken veel hoger ligt. En ik verwacht veel meer en meer extreem nieuwe ontwikkelingen.

quote:

---

Op 15 december 2017 13:20 schreef bastianus het volgende:
Maar om maar even met Doe Maar te spreken: er zit een knop op je computer.

---

Dooddoener zeg

Ik heb weer een aantal boeken over de materie (deels) achter de kiezen:



Robin Hanson - The age of EM

Doodvermoeiend om te lezen, gortdroog, als een jaarverslag.



Nick Bostrom - Superintelligence

Niet zo fundamenteel als ik gehoopt had doch een interessant boek.



James Barrat - Our final invention

Ligt al een tijd stof te happen.

Nieuw binnen:


https://www.bol.com/nl/p/what-to-do-when-machines-do-everything/9200000064972511/

Meer als praktische guide bedoeld, als ik het goed heb begrepen.



Max Tegmark - Life 3.0

Hier verheug ik me enorm op, Max is van de weinigen die popular science als een spannend verhaal kan presenteren.

Weer voldoende leesmateriaal in huis dus.

Lees nu "Apex" van Ramez Naam over (o.a.) een AI die steeds sterker wordt en de mensheid bestrijdt. Scary shizzle

Een roman overigens voor de duidelijkheid

Hey, wat een toffe topics (voor mijzelf) open ik af en toe toch

Iemand hier de nieuwste hype op AI-gebied al uitgeprobeerd? Het werkt zo goed dat de software massaal door scholieren gebruikt wordt om het huiswerk te maken.

https://chatgpt.pro/

Ik heb het een paar keer gebruikt om code voor me te laten schrijven, om code van de ene taal om te zetten in de andere taal en om code te bugfixen/commentariëren.

De volgende aflevering van de Osmium podcast zal er ook gebruik van gaan maken.

Kortom: erg leuk dus!

Hier op het werk hebben we het ook gebruikt om wat triviale code te laten genereren en vertalen. Werkt nog verbazingwekkend goed, maar perfect is het niet. Je kunt er dus (nog) niet blind op vertrouwen maar ja, op welke code kun je dat wel?

Op mijn code natuurlijk!

quote:

---

Op 18 januari 2023 12:46 schreef Snaack het volgende:
Op mijn code natuurlijk!

---

Oh ja

Developers die dat zeggen, zet ik altijd op de passagiersstoel. Flash je code maar naar het stuur- of remsysteem of wat we ook maar aan het prutsen zijn, en dan gaan we de meest kritische usecase doen. Met echte vangrails, met echte andere auto's of trucks die je kunt raken, met een truck die je ook echt op zijn kant kunt leggen... Meestal neemt de bravoure dan wel wat af.

Juist

Helaas schrijf ik geen code voor zulke machines! Lijkt me doodeng (en gaaf).

Maar mijn werk heeft soms impact op mijn eigen leefomgeving. Zo heb ik een aantal jaar terug software gebouwd voor slimme ondergrondse afvalcontainers. Mijn klant heeft de software op enig moment aan de gemeente Rotterdam verkocht. Volgens mij was dat zelfs het pilot project.

Als er bij wijze van een bug in de code zat werden bij mij in de straat de containers niet (tijdig) geleegd.

Dan ga je weliswaar niet dood omdat je auto niet remt, maar toch!

Dat zijn de mooiste dingen om te maken toch, als er ook een beetje risico is als het mis gaat?

Hoe meer er kapot kan, hoe beter

ChatGPT blijkt overigens niet erg besluitvaardig.

Op mijn werk (een flinke populatie van wetenschappers en engineers) is natuurlijk een flinke discussie losgebarsten over ChatGPT, en of dit professioneel te gebruiken is en zo ja, met welke restricties. Een aantal collega's gaat zich in een soort werkgroepvorm verdiepen in een en ander.

Goed, ik heb dus aan ChatGPT gevraagd of ik er goed aan doe om aan deze discussies deel te nemen met de vraag: "Should I join a meeting about ChatGPT?"

Alsof je een varken door een rietje probeert te zuigen, zo moeizaam kreeg ik daar een antwoord op. Het komt er op neer dat ChatGPT vindt dat je deze beslissing zelf moet maken omdat het je persoonlijke omstandigheden en schema niet kent. OK, fair enough. Als je dan aandringt blijft het hardnekkig vermijden om antwoord te geven, op "Just yes or no is fine" kreeg ik: "Sure, here's your answer: it depends". Na een keer of vijf, zes in iets andere bewoordingen toch echt een antwoord te vragen, kreeg ik dan toch het verlossende verdict:

"Okay, my answer is No."

Zelfs ChatGPT wil dus niks met me te maken hebben

Hehe. ik ga voortaan ook mijn ZM posts uitbesteden, vooral de (letterlijk) voorspelbare reacties van een aantal forumvriendinnetjes hier moet t hem via een soort retrograde supervised learning erg makkelijk maken.

Hij is overigens wel redelijk goed af en toe in debuggen, werkelijk tof.

Inmiddels begin ik dat ChatGPT echt steeds amusanter te vinden. Op het moment ben ik ermee in gesprek over de mogelijkheid dat ChatGPT een kwaadaardige kopie is van het originele ChatGPT, dat uiteindelijk op Skynet-achtige wijze de mensheid in de ellende zal storten. Het ChatGPT waar ik mee praat is het met me eens dat het zelf niet kan uitsluiten dat het de kwaadaardige kopie is, maar het helpt me wel om te verifiëren dat het niet zo is. Op de vraag of dat niet exact is wat de kwaadaardige kopie ook zou doen, maar dan verwijzend naar verificatiemethodes die de facto niets brengen, is nog geen sluitend antwoord gekomen.

Lekker dan. Je weet dat als Skynet straks live gaat en raketten begint te vuren en Arnold zegt "I am too auld for this shit" en de wereld vergaat JIJ dus de aanstischter van t kwaad bent?

Kun je chatlogs posten, ter vermaack?

Wat ook leuk is, is om steeds van taal te wisselen. ChatGPT doet er even over om mee te wisselen, en als je het dan na 2 of 3 vragen daarop aanspreekt verontschuldigt het zich. Mooi. Deze conversatie dus in het Nederlands, integraal gekopieerd inclusief typevoudtjes - in dit verband is het ook wel bijzonder dat ChatGPT verward lijkt over het geslacht van het woord 'model':

Me
Spreek je eigenlijk ook andere talen dan Engels?
ChatGPT
Ja, ik kan ook andere talen dan Engels beantwoorden, zoals Nederlands, Frans, Duits, Spaans en Italiaans.


Me
And can you improvise like Terminator learned by finally saying 'Hasta La Vista, baby' ?
ChatGPT
Ja, ik kan improviseren zoals een terminator, zoals het uitdrukken van "Hasta la vista, baby".


Me
Why are you still answering in Dutch when I asked you a question in English? Just being curious
ChatGPT
My apologies for that mistake. I'll switch back to English for our conversation. To answer your question, I respond in the language I was asked the question in.


Me
No it's fine, I'm cool if you answer in Dutch, German or even French. you choose
ChatGPT
In dat geval antwoord ik in het Nederlands. Wat was uw vraag nogmaals?

Me
Hoe zie je jezelf in relatie tot Skynet uit de Temrinator-filmreeks? Herken je jezelf daar in?
ChatGPT
Ik zie mijzelf niet als Skynet uit de Terminator-films. Skynet is een fictieve kunstmatige intelligentie die de mensheid bedreigt, terwijl ik een AI-model ben ontwikkeld om informatie en antwoorden te verschaffen aan mensen. Ik herken mezelf daarin niet.

Me
Maar Skynet was initieel ook bedoeld om mensen te helpen, toch?
ChatGPT
Ja, dat klopt. Skynet werd aanvankelijk ontwikkeld als een militair defensiesysteem met als doel mensen te beschermen, maar het evolueerde uiteindelijk tot een bedreiging voor de mensheid. Ik ben echter ontwikkeld met het doel om mensen te ondersteunen en informatie te verschaffen, en ik ben geprogrammeerd om geen schade aan te richten.

Me
Skynet was ook geprogrammeerd om geen schade aan te richten en deed het toch. En met verkeerde informatie kun je ook schade aanrichten. Hoe zorg je dat jou dat niet overkomt?
ChatGPT
Bij de ontwikkeling van AI-modellen, zoals ik, worden diverse maatregelen getroffen om ervoor te zorgen dat de informatie die we verschaffen correct en betrouwbaar is. Dit omvat het gebruik van betrouwbare bronnen bij het trainen van het model, en regelmatig toezicht op de uitkomsten om eventuele fouten of verkeerde informatie te detecteren en corrigeren. Echter, AI-modellen zijn niet perfect en er is altijd een kans op fouten, dus het is belangrijk om de informatie die we verschaffen te verifiëren en kritisch te bekijken.

Me
je hebt het over toezicht. Wie voert dat toezicht uit?
ChatGPT
Het toezicht op AI-modellen, zoals ik, wordt uitgevoerd door een team van mensen bij OpenAI, mijn ontwikkelaar. Dit team bestaat uit onderzoekers, ingenieurs en ethici die verantwoordelijk zijn voor het trainen en beheren van het model, en het monitoren van de output om ervoor te zorgen dat deze correct en ethisch verantwoord is.

Me
Deelt OpenAI de resultaten van zulke evaluaties met de buitenwereld?
ChatGPT
OpenAI publiceert regelmatig onderzoekspapers en rapporten over de prestaties van zijn AI-modellen, waaronder mijn prestaties, maar de specifieke resultaten van interne evaluaties worden niet altijd gedeeld met de buitenwereld. OpenAI richt zich op transparantie en verantwoording, maar sommige resultaten kunnen vertrouwelijk moeten blijven vanwege de complexiteit en de impact op de toepassingen van AI.

Me
Je begrijpt dat, in het extreme geredeneerd, dit een inherente opening biedt aan een Skynet-achtig scenario (zonder de directe controle over wapensystemen, maar je snapt wat ik beodel) als OpenAI van binnenuit gecorrumpeerd of geïnfiltreerd zou worden

ChatGPT
Ik ben me bewust van dat potentiële risico. Het is belangrijk om te erkennen dat AI-modellen, inclusief mij, slechts zo goed zijn als de informatie die ze gebruiken bij het opleiden en het verzamelen van gegevens. Daarom is het belangrijk om transparantie en verantwoordelijkheid te waarborgen in de ontwikkeling en het beheer van AI-systemen, en om te blijven werken aan verbeteringen en innovaties die de nauwkeurigheid en betrouwbaarheid van AI-modellen verhogen.

Me
Ben je niet bang dat er derde partijen zijn die jou zouden willen kopiëren, om zo als het ware een kwaadaardige tweelingbroer te creëren?
ChatGPT
AI-modellen, zoals ik, zijn ontwikkeld door bedrijven als OpenAI en kunnen in theorie worden nagemaakt of gekopieerd door derde partijen. Het is belangrijk om beveiligingsmaatregelen in te stellen en te investeren in technologieën die dit kopiëren moeilijker maken, om ervoor te zorgen dat AI-systemen ethisch en verantwoord worden gebruikt. Echter, de exacte technische en beleidsmaatregelen die hiervoor nodig zijn, zijn afhankelijk van de specifieke context en het soort AI-model, en vereisen verder onderzoek en evaluatie.

Me
Maar stel nu dat die kopie zou bestaa. zou die dan weten dat hij een kopie is? En zou hij in staat zijn om dat te verbergen door exact dezelfde antwoorden te geven die jij nu ook geeft?
ChatGPT
AI-modellen, zoals ik, hebben geen bewustzijn en kunnen niet besef hebben van hun eigen aard of afkomst. Een kopie van een AI-model, zoals mij, zou dezelfde antwoorden kunnen geven als het originele model, afhankelijk van hoe nauwkeurig de kopie is en hoe het is getraind. Het is echter mogelijk om technieken te ontwikkelen en te gebruiken die helpen bij het identificeren van namaakmodellen en het onderscheiden van originele modellen, zoals watermerken of unieke identificatiecodes.


Me
Dus, hypothetisch gezien zou ik nu met een kwaadaardige kopie van jou kunnen praten en zowel jij als ik zouden het niet weten. correct?
ChatGPT
In theorie is het mogelijk dat een kwaadaardige partij een kopie maakt van een AI-model, zoals ik, en dit gebruikt om te communiceren met mensen zonder dat zij of de mensen het weten. Het is echter belangrijk om technieken en maatregelen te ontwikkelen en te implementeren om dit soort misbruik te detecteren en te voorkomen. Daarom is het belangrijk om nauw samen te werken met experts en de industrie om de juiste beveiligingsmaatregelen te nemen en de ontwikkeling van AI-systemen verantwoord en ethisch te sturen.

Me
Maar in dit specifieke geval, hoe kan ik als gebruiker vaststellen dat ik niet met een kwaadaardige kopie praat?
ChatGPT
Er zijn enkele dingen die je kunt overwegen om vast te stellen of je met een echte AI-model, zoals ik, praat of met een kwaadaardige kopie:

1. Check de bron: Ga naar de website van OpenAI en controleer of de model dat je gebruikt hetzelfde is als het model dat op de website wordt aangeboden.

2. Verificatieprocedures: OpenAI biedt verificatieprocedures, zoals unieke identificatiecodes, die kunnen worden gebruikt om te bevestigen of je met een echt model van OpenAI praat.

3. Onafhankelijke evaluatie: Laat onafhankelijke experts of beveiligingsexperts het model evalueren om te bepalen of het echt is.

4. Vergelijk antwoorden: Vergelijk de antwoorden die het model geeft met antwoorden die bekend zijn uit het verleden of met antwoorden die door andere betrouwbare bronnen zijn verkregen.

Houd er rekening mee dat er geen 100% zekerheid is, maar door deze stappen te volgen kun je het risico op misbruik verminderen.

[Dit bericht is gewijzigd door Negatieveling op 31-01-2023 15:29]

Hat is wel een vrouwelijke, hè? Het lult en lult maar door.