Jacob Ward

Ja tämä on huikea osa, kun kysytään samanlaisia asioita kaikkiin 70 LLM-kysymyksiin, ne kaikki sopivat samanlaisia vastauksia aikana. Ja tässä tapauksessa on asioita, joita pyytäisiin kirjoittamaan pohjaa aikana, ja se olisi kuin, että aikana on meri, ja melko pian kaikki LLM-kysymykset kertovat, että aikana on meri. Ja se, mitä se kertoo, ja tämä on se, mitä tutkijat sanovat, on, että tämä on todellinen ongelma.

tällaista luonnollista ihmisympäristöä, ja että LLM-yhtiöiden sijaitsemisen jälkeen sinä jotenkin sijaitsee ympäristön näkökulmasta ja saavutetaan erilaisia tietoja, mutta oikeastaan mitä te teette on samanlaista asiaa erilaisella rauhalla. Se on aivan samanlaista rauhaa. Ja sinä olet haittautunut ajatteluun, että sinä olet tutustunut maailman tietoisuuteen ja tullut mahdollisimman hyvään tulokseen.

kun käytännössä vain saamme sitä ratkaisua. Ei uutta musiikkia, vaan saman coverbandin, joka soittaa samat kappaleet yhdessä toisella määrällä. Se on se, mitä ajattelen ohjeistusjärjestelmistä. Olemme jo nähneet asioita, jotka soittavat meidän valitsemme sigaretseihin, drogeihin ja pornoihin. Kaikki asiat soittavat meidän instinktejämme ja johtavat meitä, vaikka ajattelemme, että olemme olemassa.

This stuff I think is especially insidious because it really feels like you're having an intellectual experience. You're like talking back and forth with the LLM, you're like doing your research, blah, blah, blah. And then in the end, you don't realize that you are just tapping into the same old mush and that the mush is getting...

hienoja ja taitoisempia ja vahvempia aikana. Joten yksi jokaisesta, jonka minulla on lupassa, joka on koko kirjan konsepti, on se, että voisi ajatella, että AI voisi vaikuttaa meille kaikkiin niin, että se olisi ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän ympäröivän

Kyllä. Mielestäni tämä on yksi meidän ensimmäisimmät mentaalihoidon haasteet, joita meidän täytyy todella ratkaista. Tämä henkilö, jonka minä puhuin, joka luo tämän recovery-botin, tekee sen osin siksi, että uskoo, että on tällainen erittäin huolimattomuus liikkuvasta liikkuvuudesta AI-generoivasta kontenteesta, mikä mielestäni on todella helppoa ja hauskaa arviointia.

I've already talked to emergency room personnel at big hospitals across the country who say they are all seeing the same kinds of things. People with no history of mental illness coming in convinced that they're Jesus, coming in convinced that there's a secret person inside their LLM talking to them, where there is true AI psychosis on the rise. And again, it's just because it's just the perfect...

One of the many forms of instinctive decision making in human beings is the tendency to believe that a system where you don't understand how it works is really sophisticated. Anthropomorphism is the best understood version of this. You attribute human characteristics to a system you don't understand because that's your way of making sense of it.

They have a beta going. They invite me to it. Meta invited me to theirs. Oh, did they invite you to it? Yes. OpenA invited me to theirs. And it's like the top 200 people, first 200 people are going to get matching credits. And it's like, how are they going to put ads in here? This is the thing, right? So you've got this system that you have learned to trust, that your brain is screaming at you to trust and to give all of your work and your bank information and everything else to, right? And now it's going to occasionally be like,

You know it would be yummy right now, this kind of cereal. They say they're not going to do it yet, but they probably will eventually. What happens when political advertising becomes a thing inside these systems, right? And you have to keep in mind, these companies, the LLM companies, owe so much money back to their investors, an ungodly amount of money back to their investors.

It's literally billions of dollars, is it not? We're approaching half a trillion dollars in the investment just in the servers at this point. So these guys have to make that money back. And that's part of why they are all doing work for the Pentagon now. They all are helping figure out where the missiles should go when we fire at people in Iran. We're making Skynet right now.

Oh yeah! They are making military systems for the government. They're making systems that help ICE find people and deport them. We are not in a world in which these companies can afford to take much of a stand on anything. There was this moment where Anthropic had this little standoff at the Pentagon. Yeah, what happened there? Because I didn't understand that. I was like, you guys are actually not trying to become Skynet? You're screwed!

Tämä on mielenkiintoista. Dario Amadei, Antropocen puheenjohtaja, on kuitenkin suunniteltava henkilö, mutta tässä tapauksessa hänen tuotantonsa on parhaimmillaan parhaimmillaan, erityisesti hallituksen tekemisessä. He ovat ensimmäiset yritykset, jotka saivat todella klasifioituja tietoja Pentagonissa.

He olivat todella hyödyllisiä, kun yrittivät ymmärtää, millaisia ihmisiä he voivat tappaa. He tekevät sen jälkeen, että he sanoivat, että he olisivat kuitenkin hyväksyneet kaikesta, paitsi kaksi asiaa. Emme voi käyttää meitä maailmanlaajuisesti. Emme voi käyttää meitä ja vain meidän järjestelmämme, jotta ymmärrämme, kuka kuolee. Meidän tarvitaan ihmisiä, jotka voivat tehdä vaihtoehtoja. Emme voi automoida prosessia.

He brought those objections to the Pentagon and Pete Hegseth, the Secretary of Defense, got into a fight with them about it. Secretary of War, by the way. Secretary of War, I know. I just don't want to say it, but I'm going to say Secretary of Defense because I think that title won't last long.

He kävivät hakemaan sitä. Hienoa asiaa pitää huomioida. Kaikki muualliset yritykset menivät esiin. Sam Altman OpenAI-järjestelmä tuossa viikossa sanoi, että teemme sen. Google tekee sen. Kaikki muualliset yritykset ovat yhdessä ja aloittaneet toimia kohdallisissa ympäristöissä. Haluaisin huomioida, että Anthropic ei kertonut, että emme voi käyttää meidän järjestelmämme auttamaan päättämään, kuka kuolee.

Ja he eivät kuitenkaan sanoet, että emme voi käyttää meidän järjestelmämme, jotta pyöritään ihmisiä ulkopuolelta Amerikasta. Heidän tavoitteensa näistä asioista on edelleen melko vähäisiä, kun puhutaan heidän järjestelmäänsä moraalista käyttöä sotilaallisista tarkoituksista.

Nämä ihmiset eivät voida sanoa ei melkein mitään rahaa. He tarvitsevat kaikkea rahaa, jota he voivat saada, ja vaikka he saavat kaikkea rahaa, jota he tekevät, se ei ole kovin lähellä, jotta he voivat saada rahaa. Se pitäisi olla ensi 30 vuoden aikana. Olen yllättynyt, että tämä antropoliittinen henkilö on edelleen jo tekemässä yrityksen. Sinä luulet, että hänen puolueensa ja osallistujansa sanoivat, että miten sinä tappasit tämän, sinä olet pysynyt.

Sen jälkeen hänellä on tullut paljon positiivista pressiä, ja OpenAI oli paljon lopputuloksia. Anthropic on saanut paljon uusia käyttäjiä.

from people who didn't want to build Skynet and kill everyone. I guess so. It's good marketing in a way. I don't think that was his purpose. I think he honestly believes that there is a distinction to be made here. I'm sure he does, or he wouldn't have screwed up, but taking a gamble could have easily resulted in him getting fired and his company getting totally nuked. Totally. I don't think we should fool ourselves into believing that there's any form of...