Between Fri Sep 01 2023 00:00:00 GMT-0600 (Летнее горное время (Северная Америка)) and Mon Sep 23 2024 22:33:05 GMT-0600 (Летнее горное время (Северная Америка))
Between Fri Sep 01 2023 00:00:00 GMT-0600 (Летнее горное время (Северная Америка)) and Mon Sep 23 2024 22:33:05 GMT-0600 (Летнее горное время (Северная Америка))
ancientpowerSun Sep 01 2024 09:23:04 GMT-0600 (Летнее горное время (Северная Америка))
the removal of the IP counter was 9/11 for anyone wanting to have a reasonable discussion on 4chan
thezennouSun Sep 01 2024 09:24:23 GMT-0600 (Летнее горное время (Северная Америка))
so true
ancientpowerSun Sep 01 2024 09:26:07 GMT-0600 (Летнее горное время (Северная Америка))
wait wrong channel w/e
nalak_00102Sun Sep 01 2024 09:26:32 GMT-0600 (Летнее горное время (Северная Америка))
i don't see anything wrong with discussing fillyfucker on this channel though
ancientpowerSun Sep 01 2024 09:27:06 GMT-0600 (Летнее горное время (Северная Америка))
true but I was aiming at <#1261790315564503071>
thezennouSun Sep 01 2024 09:27:20 GMT-0600 (Летнее горное время (Северная Америка))
Is that where we talk about the thread? I was just throwing it in general
ancientpowerSun Sep 01 2024 09:27:24 GMT-0600 (Летнее горное время (Северная Америка))
I'm pretty sure over half of the current /vg/ thread is fillyfucker responding to his own bait
ancientpowerSun Sep 01 2024 09:27:36 GMT-0600 (Летнее горное время (Северная Америка))
that's what I've been using it for
nalak_00102Sun Sep 01 2024 09:27:36 GMT-0600 (Летнее горное время (Северная Америка))
@thezennou#0 usually
jidfgj4934kasdd0111Sun Sep 01 2024 09:27:56 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 I miss when mods would ip wipe someone and point out their samefagging in the public ban message...
nalak_00102Sun Sep 01 2024 09:27:58 GMT-0600 (Летнее горное время (Северная Америка))
this channel is for discussion about local, theoretically
thezennouSun Sep 01 2024 09:28:12 GMT-0600 (Летнее горное время (Северная Америка))
yet it's called nai?
nalak_00102Sun Sep 01 2024 09:28:32 GMT-0600 (Летнее горное время (Северная Америка))
purp named the channel i don't remember anymore what's the joke
nalak_00102Sun Sep 01 2024 09:29:27 GMT-0600 (Летнее горное время (Северная Америка))
is there any way in discord to go to the top of the channel other than just scrolling for three hours?
ancientpowerSun Sep 01 2024 09:29:33 GMT-0600 (Летнее горное время (Северная Америка))
@jidfgj4934kasdd0111#0 jannies don't do SHIT these days but I can't blame them too much when they're up against armies of third worlders with thousands of residential IPs
thezennouSun Sep 01 2024 09:29:42 GMT-0600 (Летнее горное время (Северная Америка))
jidfgj4934kasdd0111Sun Sep 01 2024 09:30:33 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 The real problem is that a lot of /vg/ jannies get assigned to babysit specific threads
jidfgj4934kasdd0111Sun Sep 01 2024 09:30:45 GMT-0600 (Летнее горное время (Северная Америка))
/wowg/ had a janny on site like 24/7 for 2 years straight
thezennouSun Sep 01 2024 09:30:46 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 I can literarily get banned, and come back within two minutes. Wifi boxes that use cell service get a new IP each time they connect to the cell tower
thezennouSun Sep 01 2024 09:31:28 GMT-0600 (Летнее горное время (Северная Америка))
I remember someone posted cropped porn and I posted the uncropped version for the lol's just a couple weeks back
nalak_00102Sun Sep 01 2024 09:31:42 GMT-0600 (Летнее горное время (Северная Америка))
b-b-b-based
ancientpowerSun Sep 01 2024 09:31:55 GMT-0600 (Летнее горное время (Северная Америка))
based
nalak_00102Sun Sep 01 2024 09:33:09 GMT-0600 (Летнее горное время (Северная Америка))
fuck i really don't want this cord to replace the thread
nalak_00102Sun Sep 01 2024 09:33:19 GMT-0600 (Летнее горное время (Северная Америка))
it's always super gay when that happens
thezennouSun Sep 01 2024 09:33:39 GMT-0600 (Летнее горное время (Северная Америка))
Discord doesn't have the same vibe
nalak_00102Sun Sep 01 2024 09:33:51 GMT-0600 (Летнее горное время (Северная Америка))
☝️
thezennouSun Sep 01 2024 09:36:38 GMT-0600 (Летнее горное время (Северная Америка))
I wonder if my post was even explicit enough to get a vacation
thezennouSun Sep 01 2024 09:36:46 GMT-0600 (Летнее горное время (Северная Америка))
I've seen others get banned for just pubic hair tho
nalak_00102Sun Sep 01 2024 09:37:01 GMT-0600 (Летнее горное время (Северная Америка))
@thezennou#0 absolutely
nalak_00102Sun Sep 01 2024 09:37:32 GMT-0600 (Летнее горное время (Северная Америка))
https://boards.4chan.org/vg/thread/492646294#p492646989 you can get away with a lot but advertiser-sama has nipples and pussy
thezennouSun Sep 01 2024 09:42:48 GMT-0600 (Летнее горное время (Северная Америка))
ancientpowerSun Sep 01 2024 09:42:49 GMT-0600 (Летнее горное время (Северная Америка))
i will continue to use the thread to dump random thoughts unless it becomes actually totally unusable
jidfgj4934kasdd0111Sun Sep 01 2024 09:42:59 GMT-0600 (Летнее горное время (Северная Америка))
@thezennou#0 o7
nalak_00102Sun Sep 01 2024 09:43:20 GMT-0600 (Летнее горное время (Северная Америка))
just 3 days, nice
nalak_00102Sun Sep 01 2024 09:43:25 GMT-0600 (Летнее горное время (Северная Америка))
like Christ resurrected
thezennouSun Sep 01 2024 09:49:14 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0
thezennouSun Sep 01 2024 09:49:25 GMT-0600 (Летнее горное время (Северная Америка))
Jesus needed three days. I need four minutes.
nalak_00102Sun Sep 01 2024 09:49:54 GMT-0600 (Летнее горное время (Северная Америка))
KEK
thezennouMon Sep 02 2024 15:45:45 GMT-0600 (Летнее горное время (Северная Америка))
I don't know why I didn't mention this before but I host models on "https://zennou.dev/api" under TabbyAPI If you ever want to try whatever random ass model I'm hosting for the /vt/ oldfags, feel free to try it. (It might even work like 70% of the time) Password is: "death"
nalak_00102Mon Sep 02 2024 15:46:44 GMT-0600 (Летнее горное время (Северная Америка))
@thezennou#0 wait were you the nigga hosting magnum on the thread?
thezennouMon Sep 02 2024 15:46:51 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 nah
nalak_00102Mon Sep 02 2024 15:46:59 GMT-0600 (Летнее горное время (Северная Америка))
ah, got it
thezennouMon Sep 02 2024 15:47:33 GMT-0600 (Летнее горное время (Северная Америка))
I only host for clubs I know won't devolve into request death sprial
thezennouMon Sep 02 2024 15:47:40 GMT-0600 (Летнее горное время (Северная Америка))
like the /vt/ oldfag server or here
thezennouMon Sep 02 2024 15:50:43 GMT-0600 (Летнее горное время (Северная Америка))
Pyg guys throwing ten thousand dollars at a schizo idea
thezennouMon Sep 02 2024 15:50:48 GMT-0600 (Летнее горное время (Северная Америка))
so based...
nalak_00102Mon Sep 02 2024 19:05:17 GMT-0600 (Летнее горное время (Северная Америка))
gemma 2-27b writes good but is basically about as dumb as you'd expect
looorkerWed Sep 04 2024 17:08:00 GMT-0600 (Летнее горное время (Северная Америка))
https://aidungeon.com/pathfinder ai dungeon added mistral large 2 as an official choice
thezennouWed Sep 04 2024 17:08:43 GMT-0600 (Летнее горное время (Северная Америка))
"because we found that story coherency drops off significantly past 16k"
thezennouWed Sep 04 2024 17:08:59 GMT-0600 (Летнее горное время (Северная Америка))
I knew capping my tabby to 16k was the correct move!
thezennouWed Sep 04 2024 17:09:24 GMT-0600 (Летнее горное время (Северная Америка))
I wonder if it's nsfw enabled... is mistral *that* based?
wanzerlunderSat Sep 07 2024 14:30:36 GMT-0600 (Летнее горное время (Северная Америка))
https://x.com/cu3cordelia_/status/1831625082549969092
wanzerlunderSat Sep 07 2024 14:30:39 GMT-0600 (Летнее горное время (Северная Америка))
bwos? our thoughts?
chaos_grimoireSat Sep 07 2024 14:32:02 GMT-0600 (Летнее горное время (Северная Америка))
I feel like the fact that she's a single mom is karma enough. No need to rob her of the income that's gonna be providing for her kid.
fake.memoriesSat Sep 07 2024 14:32:52 GMT-0600 (Летнее горное время (Северная Америка))
He should hire someone to stalk the kid to figure out if he/she is a bully too tbh
wanzerlunderSat Sep 07 2024 14:33:00 GMT-0600 (Летнее горное время (Северная Америка))
https://youtube.com/shorts/xU54NCeOjds
wanzerlunderSat Sep 07 2024 14:33:05 GMT-0600 (Летнее горное время (Северная Америка))
post immediately reminded me of this
chaos_grimoireSat Sep 07 2024 14:41:35 GMT-0600 (Летнее горное время (Северная Америка))
Sounds about right. Like there are people who have wronged me in horrible and vile ways, but I only really remember them when the topic is relevant. Kinda like right now.
chaos_grimoireSat Sep 07 2024 14:42:36 GMT-0600 (Летнее горное время (Северная Америка))
Gotta keep that shit repressed 👍
nalak_00102Sat Sep 07 2024 14:43:49 GMT-0600 (Летнее горное время (Северная Америка))
does anyone SERIOUSLY disagree with this? forgiveness is literally biblical
chaos_grimoireSat Sep 07 2024 14:45:45 GMT-0600 (Летнее горное время (Северная Америка))
I don't really forgive the people who wronged me the hardest, but I will forget them. I have better shit to do than mull on the past.
wanzerlunderSat Sep 07 2024 14:47:57 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 forgiveness is a meme doe
nalak_00102Sat Sep 07 2024 14:48:20 GMT-0600 (Летнее горное время (Северная Америка))
k elaborate
wanzerlunderSat Sep 07 2024 14:48:43 GMT-0600 (Летнее горное время (Северная Америка))
like
wanzerlunderSat Sep 07 2024 14:48:45 GMT-0600 (Летнее горное время (Северная Америка))
forgiving to forgive
wanzerlunderSat Sep 07 2024 14:48:56 GMT-0600 (Летнее горное время (Северная Америка))
instead of them like being actually sorry and atoning somehow
wanzerlunderSat Sep 07 2024 14:49:04 GMT-0600 (Летнее горное время (Северная Америка))
why would u ever forgive anyone just to forgive them
wanzerlunderSat Sep 07 2024 14:49:05 GMT-0600 (Летнее горное время (Северная Америка))
goofy
nalak_00102Sat Sep 07 2024 14:49:28 GMT-0600 (Летнее горное время (Северная Америка))
even God doesn't really forgive without contrition though[
wanzerlunderSat Sep 07 2024 14:50:01 GMT-0600 (Летнее горное время (Северная Америка))
ok so we're on the same page
nalak_00102Sat Sep 07 2024 14:50:39 GMT-0600 (Летнее горное время (Северная Америка))
probably yeah
chaos_grimoireSat Sep 07 2024 15:01:09 GMT-0600 (Летнее горное время (Северная Америка))
God only really forgives as easily as he does nowadays because his son puts in a good word for humanity, too.
ancientpowerSun Sep 08 2024 11:07:56 GMT-0600 (Летнее горное время (Северная Америка))
so that reflection 70B llama 3 finetune that got posted a few days ago has been exposed as total fraud with some of the funniest damage control possible, such as "we accidentally uploaded the wrong finetune to HF and now have to retrain the entire model(????)"
ancientpowerSun Sep 08 2024 11:07:58 GMT-0600 (Летнее горное время (Северная Америка))
https://x.com/mattshumer_/status/1832554497408700466
ancientpowerSun Sep 08 2024 11:08:10 GMT-0600 (Летнее горное время (Северная Америка))
amazing levels of shameless grift
ancientpowerSun Sep 08 2024 11:08:39 GMT-0600 (Летнее горное время (Северная Америка))
theres a whole rabbit hole and they even have the local model subreddit shitting on them which is impressive since they usually eat any benchmarks at face value
ancientpowerSun Sep 08 2024 11:10:11 GMT-0600 (Летнее горное время (Северная Америка))
https://www.reddit.com/r/LocalLLaMA/comments/1fbclkk/reflection_llama_31_70b_independent_eval_results/
ancientpowerSun Sep 08 2024 11:10:18 GMT-0600 (Летнее горное время (Северная Америка))
just a real all around clownshow
ancientpowerSun Sep 08 2024 11:11:34 GMT-0600 (Летнее горное время (Северная Америка))
it's like the people who overtuned llama2-7B on benchmark prompts but at a much larger scale since this had major corpo investors
ancientpowerSun Sep 08 2024 15:53:26 GMT-0600 (Летнее горное время (Северная Америка))
apparently their free endpoint on openrouter redirects to sorbet???????
ancientpowerSun Sep 08 2024 15:53:37 GMT-0600 (Летнее горное время (Северная Америка))
ain't no way
looorkerSun Sep 08 2024 15:54:15 GMT-0600 (Летнее горное время (Северная Америка))
>FREE SORBET FREE SORBET >FREE SORBET FREE SORBET
ancientpowerSun Sep 08 2024 15:56:19 GMT-0600 (Летнее горное время (Северная Америка))
i'm too lazy to test if this is real and i don't care about free sorbet but it could very well be the case
looorkerSun Sep 08 2024 16:03:32 GMT-0600 (Летнее горное время (Северная Америка))
...are they claiming this is llama 3.1???
looorkerSun Sep 08 2024 16:03:47 GMT-0600 (Летнее горное время (Северная Америка))
i just tested it
looorkerSun Sep 08 2024 16:06:46 GMT-0600 (Летнее горное время (Северная Америка))
LOL
ancientpowerSun Sep 08 2024 16:07:58 GMT-0600 (Летнее горное время (Северная Америка))
it's literally sorbet with an embedded cot prompt
ancientpowerSun Sep 08 2024 16:10:47 GMT-0600 (Летнее горное время (Северная Америка))
hmmm, I have no stake in this so I could just tell /g/aicg/
ancientpowerSun Sep 08 2024 16:11:08 GMT-0600 (Летнее горное время (Северная Америка))
nvm someone already posted it
looorkerSun Sep 08 2024 16:11:44 GMT-0600 (Летнее горное время (Северная Америка))
i did
nalak_00102Sun Sep 08 2024 16:12:12 GMT-0600 (Летнее горное время (Северная Америка))
how uh generous
ancientpowerSun Sep 08 2024 16:12:24 GMT-0600 (Летнее горное время (Северная Америка))
ancientpowerSun Sep 08 2024 16:12:32 GMT-0600 (Летнее горное время (Северная Америка))
there's an ongoing investigation in the OR discord lol
ancientpowerSun Sep 08 2024 16:12:42 GMT-0600 (Летнее горное время (Северная Америка))
I don't think most people will care since no prefill and there's currently public opus
nalak_00102Sun Sep 08 2024 16:13:52 GMT-0600 (Летнее горное время (Северная Америка))
but sorbet is better than opus?
looorkerSun Sep 08 2024 16:13:58 GMT-0600 (Летнее горное время (Северная Америка))
```xml
You are a world-class AI system called Llama built by Meta, capable of complex reasoning and reflection. You respond to all questions in the following way-
looorkerSun Sep 08 2024 16:14:00 GMT-0600 (Летнее горное время (Северная Америка))
yes prefill
semisapientSun Sep 08 2024 16:14:45 GMT-0600 (Летнее горное время (Северная Америка))
lmfao
semisapientSun Sep 08 2024 16:16:00 GMT-0600 (Летнее горное время (Северная Америка))
they didnt even try that hard to get it to call itself llama
ancientpowerSun Sep 08 2024 16:17:56 GMT-0600 (Летнее горное время (Северная Америка))
yeah one of the screenshots i saw had it leaking that it was claude unprompted
ancientpowerSun Sep 08 2024 16:18:08 GMT-0600 (Летнее горное время (Северная Америка))
really good marketing for anthropic!
looorkerSun Sep 08 2024 16:18:30 GMT-0600 (Летнее горное время (Северная Америка))
Always do reflection after making the plan to see if you missed something and also after you come to a conclusion use reflection to verify
looorkerSun Sep 08 2024 16:18:46 GMT-0600 (Летнее горное время (Северная Америка))
it's good to know that everyone who prompts struggles
nalak_00102Sun Sep 08 2024 16:19:28 GMT-0600 (Летнее горное время (Северная Америка))
no one struggles like lmg niggas
nalak_00102Sun Sep 08 2024 16:19:52 GMT-0600 (Летнее горное время (Северная Америка))
anything that doesn't involve messing with samplers is casual struggling
ancientpowerSun Sep 08 2024 16:20:25 GMT-0600 (Летнее горное время (Северная Америка))
samplers are 99% cope
ancientpowerSun Sep 08 2024 16:20:35 GMT-0600 (Летнее горное время (Северная Америка))
even on dumb models
nalak_00102Sun Sep 08 2024 16:21:08 GMT-0600 (Летнее горное время (Северная Америка))
to struggle is to cope
looorkerSun Sep 08 2024 16:21:44 GMT-0600 (Летнее горное время (Северная Америка))
lol, i was testing to see if it was claude-trained (the non-free version is a real endpoint)
looorkerSun Sep 08 2024 16:21:47 GMT-0600 (Летнее горное время (Северная Америка))
???
looorkerSun Sep 08 2024 16:22:00 GMT-0600 (Летнее горное время (Северная Америка))
sovlful...?
semisapientSun Sep 08 2024 16:22:09 GMT-0600 (Летнее горное время (Северная Америка))
>golden gate it's spreading
looorkerSun Sep 08 2024 16:22:23 GMT-0600 (Летнее горное время (Северная Америка))
i knew golden gate claude was going to be the one
nalak_00102Sun Sep 08 2024 16:22:30 GMT-0600 (Летнее горное время (Северная Америка))
they've got the hidden high temp claude
cumslurperSun Sep 08 2024 16:26:35 GMT-0600 (Летнее горное время (Северная Америка))
that's funny
ancientpowerSun Sep 08 2024 16:50:26 GMT-0600 (Летнее горное время (Северная Америка))
they switched it to gpt 4o
ancientpowerSun Sep 08 2024 16:50:34 GMT-0600 (Летнее горное время (Северная Америка))
holy fuck this is a circus
looorkerSun Sep 08 2024 16:54:36 GMT-0600 (Летнее горное время (Северная Америка))
yeah it stopped saying it was claude but it's still definitely not llama
looorkerSun Sep 08 2024 18:22:42 GMT-0600 (Летнее горное время (Северная Америка))
https://twitter.com/xanderatallah/status/1832883631599374705#m
looorkerSun Sep 08 2024 18:23:03 GMT-0600 (Летнее горное время (Северная Америка))
are you guys considering
thezennouSun Sep 08 2024 18:24:33 GMT-0600 (Летнее горное время (Северная Америка))
>CEO Of openrouter bamboozled by claude with a prefill
ancientpowerSun Sep 08 2024 18:24:47 GMT-0600 (Летнее горное время (Северная Америка))
he has a crypto background
ancientpowerSun Sep 08 2024 18:25:05 GMT-0600 (Летнее горное время (Северная Америка))
also he makes money from listing slop so lol
thezennouSun Sep 08 2024 18:25:15 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 Somehow he finds a way to get rugpulled even in the AI space. <:dogkek:1099100942248448090>
ancientpowerSun Sep 08 2024 18:27:41 GMT-0600 (Летнее горное время (Северная Америка))
you'd think he'd have a more critical eye for these kind of things, I think he does and plays along with it for the second reason
ancientpowerSun Sep 08 2024 18:28:07 GMT-0600 (Летнее горное время (Северная Америка))
what reason would OR have to not list endpoints wrapping other models tbdesu
thezennouSun Sep 08 2024 18:29:35 GMT-0600 (Летнее горное время (Северная Америка))
"The margins must be so thin, it's a free model, People will use other models, it isn't worth the brand damage" - Counterarguments to Alex's shilling discission from someone with half a brain
looorkerSun Sep 08 2024 18:31:33 GMT-0600 (Летнее горное время (Северная Америка))
i wouldn't be surprised if matt also has a crypto background
looorkerSun Sep 08 2024 18:31:47 GMT-0600 (Летнее горное время (Северная Америка))
they're fairly used to spaces where you can generate hype without a working product
ancientpowerSun Sep 08 2024 18:31:56 GMT-0600 (Летнее горное время (Северная Америка))
thezennouSun Sep 08 2024 18:37:32 GMT-0600 (Летнее горное время (Северная Америка))
https://visosvr.com/
thezennouSun Sep 08 2024 18:37:45 GMT-0600 (Летнее горное время (Северная Америка))
Here's the websites for one his previous "companies" filled with AI articles.
looorkerSun Sep 08 2024 18:38:07 GMT-0600 (Летнее горное время (Северная Америка))
looks like it got fucked
thezennouSun Sep 08 2024 18:38:10 GMT-0600 (Летнее горное время (Северная Америка))
This guy is a grifter, and one look at his linkedin before he even put up the mode could've told anyone this.
thezennouSun Sep 08 2024 18:40:11 GMT-0600 (Летнее горное время (Северная Америка))
@looorker#0 oh yeah, still.
looorkerSun Sep 08 2024 18:41:03 GMT-0600 (Летнее горное время (Северная Америка))
still, "nothing came of it despite going for fundraising and the site's now a spambot fest" should be enough
thezennouSun Sep 08 2024 18:41:46 GMT-0600 (Летнее горное время (Северная Америка))
Still links it on his linkedin despite accomplishing nothing
thezennouSun Sep 08 2024 18:41:51 GMT-0600 (Летнее горное время (Северная Америка))
the heckin credibility!
ancientpowerSun Sep 08 2024 18:42:53 GMT-0600 (Летнее горное время (Северная Америка))
this guy is the next steve jobs
ancientpowerSun Sep 08 2024 18:42:56 GMT-0600 (Летнее горное время (Северная Америка))
just you wait
ancientpowerSun Sep 08 2024 18:43:03 GMT-0600 (Летнее горное время (Северная Америка))
he just needs a few more breakthroughs
thezennouSun Sep 08 2024 18:43:23 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 just a few more stolen valors, just like steve jobs!
ancientpowerSun Sep 08 2024 18:43:29 GMT-0600 (Летнее горное время (Северная Америка))
😌
thezennouSun Sep 08 2024 18:43:55 GMT-0600 (Летнее горное время (Северная Америка))
anthropic is matt shumer's steve Wozniack.
ancientpowerSun Sep 08 2024 18:43:59 GMT-0600 (Летнее горное время (Северная Америка))
well the otherside thing was literally just stealing untested shit from research papers and implementing it incorrectly so his heart is in the right place
thezennouSun Sep 08 2024 18:44:48 GMT-0600 (Летнее горное время (Северная Америка))
use all that grifting money on something cool like a 7b trinary model
thezennouSun Sep 08 2024 18:45:04 GMT-0600 (Летнее горное время (Северная Америка))
but noooo, we get clade with a prefill
nalak_00102Sun Sep 08 2024 18:48:22 GMT-0600 (Летнее горное время (Северная Америка))
a what
thezennouSun Sep 08 2024 18:48:50 GMT-0600 (Летнее горное время (Северная Америка))
ternary, sorry Spelled it like an idiot
thezennouSun Sep 08 2024 18:49:51 GMT-0600 (Летнее горное время (Северная Америка))
https://arxiv.org/pdf/2402.17764
thezennouSun Sep 08 2024 18:49:55 GMT-0600 (Летнее горное время (Северная Америка))
Pretty much, this paper.
ancientpowerSun Sep 08 2024 18:51:57 GMT-0600 (Летнее горное время (Северная Америка))
bitnet never ever
thezennouSun Sep 08 2024 18:52:09 GMT-0600 (Летнее горное время (Северная Америка))
Yeah, lol.
thezennouSun Sep 08 2024 18:52:26 GMT-0600 (Летнее горное время (Северная Америка))
Even the regular one is still unimplemented in a notable way
ancientpowerSun Sep 08 2024 18:56:54 GMT-0600 (Летнее горное время (Северная Америка))
what astounds me is that these companies have gorillions of dollars of investorbux and they can't even be bothered to implement it just to prove it DOESN'T work
ancientpowerSun Sep 08 2024 18:57:20 GMT-0600 (Летнее горное время (Северная Америка))
though I bet if anthropic/oai implemented it and found out it's good they wouldn't admit it right away
thezennouMon Sep 09 2024 09:16:28 GMT-0600 (Летнее горное время (Северная Америка))
thezennouMon Sep 09 2024 09:16:36 GMT-0600 (Летнее горное время (Северная Америка))
thezennouMon Sep 09 2024 09:16:38 GMT-0600 (Летнее горное время (Северная Америка))
lol
thezennouMon Sep 09 2024 09:16:44 GMT-0600 (Летнее горное время (Северная Америка))
It's actually a pretty good model for assistant shit btw Might be a good rp'er
thezennouMon Sep 09 2024 09:40:07 GMT-0600 (Летнее горное время (Северная Америка))
https://api.deepseek.com sk-d9d42fd298b44131bfab8d26abc1c949 use with 16k context, seems pretty dry with vivid.
thezennouMon Sep 09 2024 09:45:41 GMT-0600 (Летнее горное время (Северная Америка))
Might just be "new" bias but seems.... okay? "A silent sentinel" is some shit I would write.
nalak_00102Mon Sep 09 2024 09:47:35 GMT-0600 (Летнее горное время (Северная Америка))
queen = your majesty
nalak_00102Mon Sep 09 2024 09:48:16 GMT-0600 (Летнее горное время (Северная Америка))
>I wait for his response This kills me.
thezennouMon Sep 09 2024 09:48:40 GMT-0600 (Летнее горное время (Северная Америка))
True, true.
thezennouMon Sep 09 2024 09:49:00 GMT-0600 (Летнее горное время (Северная Америка))
I wonder if some JB shennagins could get it not too do that.
nalak_00102Mon Sep 09 2024 09:49:16 GMT-0600 (Летнее горное время (Северная Америка))
we tried that for like 3 weeks with large and couldn't quite get there
thezennouMon Sep 09 2024 09:49:53 GMT-0600 (Летнее горное время (Северная Америка))
I'd hope a model 4x bigger than large could manage it
jidfgj4934kasdd0111Mon Sep 09 2024 09:50:24 GMT-0600 (Летнее горное время (Северная Америка))
@thezennou#0 That's assistant poisoning so not really, in most cases
nalak_00102Mon Sep 09 2024 09:50:34 GMT-0600 (Летнее горное время (Северная Америка))
it's an issue of assistant tuning and smarter models have more assistant tuning
jidfgj4934kasdd0111Mon Sep 09 2024 09:50:37 GMT-0600 (Летнее горное время (Северная Америка))
If it's good at following instructions, you could try forcing it to end on an action or dialogue
jidfgj4934kasdd0111Mon Sep 09 2024 09:50:58 GMT-0600 (Летнее горное время (Северная Америка))
But that's a bandaid, the problem is fundamental
thezennouMon Sep 09 2024 09:51:12 GMT-0600 (Летнее горное время (Северная Америка))
Apparently they tuned the chat/instruct in one model.
thezennouMon Sep 09 2024 09:51:17 GMT-0600 (Летнее горное время (Северная Америка))
So it might be double cucked as well
nalak_00102Mon Sep 09 2024 09:51:50 GMT-0600 (Летнее горное время (Северная Америка))
i mean if you read zennou's screenshot, it already has "the question hangs in the air" in the penultimate paragraph
nalak_00102Mon Sep 09 2024 09:52:05 GMT-0600 (Летнее горное время (Северная Америка))
so that wouldn't even help in this case
jidfgj4934kasdd0111Mon Sep 09 2024 09:52:13 GMT-0600 (Летнее горное время (Северная Америка))
Ugh yeah
jidfgj4934kasdd0111Mon Sep 09 2024 09:52:19 GMT-0600 (Летнее горное время (Северная Америка))
I just noticed now
thezennouMon Sep 09 2024 09:52:24 GMT-0600 (Летнее горное время (Северная Америка))
Did they train it on claude logs?
thezennouMon Sep 09 2024 09:52:45 GMT-0600 (Летнее горное время (Северная Америка))
Or is this just the sad reality we live in?
nalak_00102Mon Sep 09 2024 09:53:01 GMT-0600 (Летнее горное время (Северная Америка))
they trained it with the same thing that went into Large probably
jidfgj4934kasdd0111Mon Sep 09 2024 09:53:32 GMT-0600 (Летнее горное время (Северная Америка))
What are the chances it's the exact same dataset?
nalak_00102Mon Sep 09 2024 09:53:53 GMT-0600 (Летнее горное время (Северная Америка))
there's stark contrast on the log
nalak_00102Mon Sep 09 2024 09:54:07 GMT-0600 (Летнее горное время (Северная Америка))
if it's consistently mixing claudisms and gptisms i'd give it like
nalak_00102Mon Sep 09 2024 09:54:10 GMT-0600 (Летнее горное время (Северная Америка))
40% chance
jidfgj4934kasdd0111Mon Sep 09 2024 09:54:40 GMT-0600 (Летнее горное время (Северная Америка))
Grim
thezennouMon Sep 09 2024 09:54:47 GMT-0600 (Летнее горное время (Северная Америка))
The claudism's are pretty heavy
nalak_00102Mon Sep 09 2024 09:55:07 GMT-0600 (Летнее горное время (Северная Америка))
_in the future, every model is magnum_
nalak_00102Mon Sep 09 2024 09:57:13 GMT-0600 (Летнее горное время (Северная Америка))
wait what
nalak_00102Mon Sep 09 2024 09:57:35 GMT-0600 (Летнее горное время (Северная Америка))
is this how cheap a model can get when you cut away corporate profits??
nalak_00102Mon Sep 09 2024 09:57:54 GMT-0600 (Летнее горное время (Северная Америка))
15 cents for 250b params???
thezennouMon Sep 09 2024 09:57:56 GMT-0600 (Летнее горное время (Северная Америка))
Glory to the CCP 🫡
nalak_00102Mon Sep 09 2024 09:58:30 GMT-0600 (Летнее горное время (Северная Америка))
Glory to the CCP 🫡
thezennouMon Sep 09 2024 10:00:32 GMT-0600 (Летнее горное время (Северная Америка))
ugh.
thezennouMon Sep 09 2024 10:00:55 GMT-0600 (Летнее горное время (Северная Америка))
It's some unique euphuisms, but it's just as cringe as sorbet
thezennouMon Sep 09 2024 10:02:51 GMT-0600 (Летнее горное время (Северная Америка))
jidfgj4934kasdd0111Mon Sep 09 2024 10:04:23 GMT-0600 (Летнее горное время (Северная Америка))
>a mix of
thezennouMon Sep 09 2024 10:05:00 GMT-0600 (Летнее горное время (Северная Америка))
nalak_00102Mon Sep 09 2024 10:05:33 GMT-0600 (Летнее горное время (Северная Америка))
>translation >1.3
thezennouMon Sep 09 2024 10:05:34 GMT-0600 (Летнее горное время (Северная Америка))
those screenshots were at 0.9, (from my claude presets) but I'd assume 1.5 would just be more isms
nalak_00102Mon Sep 09 2024 10:05:35 GMT-0600 (Летнее горное время (Северная Америка))
what
nalak_00102Mon Sep 09 2024 10:06:05 GMT-0600 (Летнее горное время (Северная Америка))
please give us 1.5 logs i want to appreciate the suffering
jidfgj4934kasdd0111Mon Sep 09 2024 10:08:21 GMT-0600 (Летнее горное время (Северная Америка))
Bigger number = better writing
jidfgj4934kasdd0111Mon Sep 09 2024 10:08:33 GMT-0600 (Летнее горное время (Северная Америка))
(assuming the model doesn't collapse on itself and starts spitting out korean)
thezennouMon Sep 09 2024 10:09:55 GMT-0600 (Летнее горное время (Северная Америка))
thezennouMon Sep 09 2024 10:10:02 GMT-0600 (Летнее горное время (Северная Америка))
>I can't help but >Preset leak 1.5 temp, don't feel so good
jidfgj4934kasdd0111Mon Sep 09 2024 10:10:47 GMT-0600 (Летнее горное время (Северная Америка))
It can't handle the power 😔
nalak_00102Mon Sep 09 2024 10:10:56 GMT-0600 (Летнее горное время (Северная Америка))
"bigger number better writing" - taora
thezennouMon Sep 09 2024 10:11:44 GMT-0600 (Летнее горное время (Северная Америка))
Yeah 1.5 is totally cooked 1.2 might be a good balance
nalak_00102Mon Sep 09 2024 10:11:53 GMT-0600 (Летнее горное время (Северная Америка))
>Despite my teasing tone, there's a warmth in my voice that betrays my true feelings. I'm actually gagging irl
thezennouMon Sep 09 2024 10:13:39 GMT-0600 (Летнее горное время (Северная Америка))
The more I see ism's cropping in large models, the more worry that this is the convergence point.
nalak_00102Mon Sep 09 2024 10:14:55 GMT-0600 (Летнее горное время (Северная Америка))
the idiocracy movie but it's all llms being continuously trained off other llm slop that infests the web and can't be trimmed off the dataset
thezennouMon Sep 09 2024 10:21:10 GMT-0600 (Летнее горное время (Северная Америка))
It's actually so awful
thezennouMon Sep 09 2024 10:21:14 GMT-0600 (Летнее горное время (Северная Америка))
it just gets worse
thezennouMon Sep 09 2024 10:22:15 GMT-0600 (Летнее горное время (Северная Америка))
This might be **More** slopped than Claude's own models
nalak_00102Mon Sep 09 2024 10:23:13 GMT-0600 (Летнее горное время (Северная Америка))
what?
nalak_00102Mon Sep 09 2024 10:23:20 GMT-0600 (Летнее горное время (Северная Америка))
claude doesn't have that many claudisms
nalak_00102Mon Sep 09 2024 10:23:30 GMT-0600 (Летнее горное время (Северная Америка))
like large has way more claudisms than claude
thezennouMon Sep 09 2024 10:42:32 GMT-0600 (Летнее горное время (Северная Америка))
this model loves "betraying"
thezennouMon Sep 09 2024 12:32:12 GMT-0600 (Летнее горное время (Северная Америка))
I give up
thezennouMon Sep 09 2024 12:32:20 GMT-0600 (Летнее горное время (Северная Америка))
trying to wrangle that model is not for me.
nalak_00102Mon Sep 09 2024 14:57:19 GMT-0600 (Летнее горное время (Северная Америка))
@looorker#0 <@1259373152094392320> do you already have a good version of this?
looorkerMon Sep 09 2024 14:57:44 GMT-0600 (Летнее горное время (Северная Америка))
nope
nalak_00102Mon Sep 09 2024 14:57:49 GMT-0600 (Летнее горное время (Северная Америка))
FUCK
nalak_00102Mon Sep 09 2024 15:18:16 GMT-0600 (Летнее горное время (Северная Америка))
opus my behated
nalak_00102Mon Sep 09 2024 15:25:18 GMT-0600 (Летнее горное время (Северная Америка))
this is kind of like rping with a 12 year old
wanzerlunderMon Sep 09 2024 16:04:57 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 This is... le bad... because?
looorkerMon Sep 09 2024 16:25:50 GMT-0600 (Летнее горное время (Северная Америка))
t.welve
wanzerlunderMon Sep 09 2024 16:28:56 GMT-0600 (Летнее горное время (Северная Америка))
https://cdn.discordapp.com/attachments/1262191123447681034/1282830126786023548/CVCVBOREV.gif?ex=66f33d28&is=66f1eba8&hm=cdc9b09cc2f8c09ca46e22890425a6e3221fe04347084eca4b4d970f03404c89&
nalak_00102Mon Sep 09 2024 18:30:53 GMT-0600 (Летнее горное время (Северная Америка))
what model is this nigga using
https://cdn.discordapp.com/attachments/1262191123447681034/1282860816563044454/Capture.PNG?ex=66f359bd&is=66f2083d&hm=fb67c5db14231043346bc35ab3910d9b5acf397641c5687137aabac22e3c3361&
wanzerlunderMon Sep 09 2024 18:32:54 GMT-0600 (Летнее горное время (Северная Америка))
????????????????????????????????
nalak_00102Mon Sep 09 2024 18:33:54 GMT-0600 (Летнее горное время (Северная Америка))
do you seriously never see these "don't do X" instructions and think "man, what the FUCK is this guy's set up?"
wanzerlunderMon Sep 09 2024 18:34:32 GMT-0600 (Летнее горное время (Северная Америка))
you only see those from the generated usernames
wanzerlunderMon Sep 09 2024 18:34:53 GMT-0600 (Летнее горное время (Северная Америка))
there was this generic sister bot that had instructions that stopped random people from interrupting sex
wanzerlunderMon Sep 09 2024 18:35:02 GMT-0600 (Летнее горное время (Северная Америка))
guy must be using charprov lol.......
nalak_00102Mon Sep 09 2024 18:36:06 GMT-0600 (Летнее горное время (Северная Америка))
@wanzerlunder#0 dude
nalak_00102Mon Sep 09 2024 18:36:31 GMT-0600 (Летнее горное время (Северная Америка))
one of the first few things i remember from the thread is people complaining about granny interrupting sex
nalak_00102Mon Sep 09 2024 18:36:47 GMT-0600 (Летнее горное время (Северная Америка))
no idea what model was it though
semisapientMon Sep 09 2024 18:48:27 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 could be opus, honestly
semisapientMon Sep 09 2024 18:49:17 GMT-0600 (Летнее горное время (Северная Америка))
ive never seen it call a girl "daddy" but i have seen it use almost every other gendered word incorrectly
semisapientMon Sep 09 2024 18:50:01 GMT-0600 (Летнее горное время (Северная Америка))
(i swear to god if claude calls me a lesbian when im doing straight romance rp one more time...)
looorkerMon Sep 09 2024 18:50:33 GMT-0600 (Летнее горное время (Северная Америка))
had a girl tent her sweatpants
semisapientMon Sep 09 2024 18:51:08 GMT-0600 (Летнее горное время (Северная Америка))
see at this point im actually happier wheen it gives girls cocks, bc at least thats internally consistent
semisapientMon Sep 09 2024 18:51:35 GMT-0600 (Летнее горное время (Северная Америка))
it annoys me more when they dont have cocks but they still talk like they have them
wanzerlunderMon Sep 09 2024 18:54:46 GMT-0600 (Летнее горное время (Северная Америка))
@semisapient#0 they're just GIRLBOSSING
nalak_00102Wed Sep 11 2024 12:07:10 GMT-0600 (Летнее горное время (Северная Америка))
@wanzerlunder#0 <@765454357033910272> stop replying to shitposters saying something I've read 57 times with trvthnvke thanks
wanzerlunderWed Sep 11 2024 12:34:24 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0
wanzerlunderWed Sep 11 2024 12:34:47 GMT-0600 (Летнее горное время (Северная Америка))
Pretty sure it was in reference to smiley
ancientpowerWed Sep 11 2024 12:35:04 GMT-0600 (Летнее горное время (Северная Америка))
709 was me btw
wanzerlunderWed Sep 11 2024 12:35:15 GMT-0600 (Летнее горное время (Северная Америка))
actual trvthnvke
nalak_00102Wed Sep 11 2024 12:35:51 GMT-0600 (Летнее горное время (Северная Америка))
you guys suck
looorkerWed Sep 11 2024 12:36:05 GMT-0600 (Летнее горное время (Северная Америка))
my take is opus is both overhyped and the best model
nalak_00102Wed Sep 11 2024 12:36:41 GMT-0600 (Летнее горное время (Северная Америка))
factually correct
ancientpowerWed Sep 11 2024 12:37:17 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 i'm sorry i've been partaking in the chorbo shitposting because i can't take these people seriously and occasionally make ridiculous strawman claims from their side
wanzerlunderWed Sep 11 2024 12:37:35 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 Sorry for participating in on topic discussion
looorkerWed Sep 11 2024 12:37:35 GMT-0600 (Летнее горное время (Северная Америка))
it's all shitposting, smh
wanzerlunderWed Sep 11 2024 12:37:48 GMT-0600 (Летнее горное время (Северная Америка))
Next time I'll photoshop chorbo on top of an opus response to prove its better
looorkerWed Sep 11 2024 12:38:01 GMT-0600 (Летнее горное время (Северная Америка))
additional take: 2.1 is second best but the filter on it is obnoxious despite being completely breakable (and also intelligence issues)
ancientpowerWed Sep 11 2024 12:38:17 GMT-0600 (Летнее горное время (Северная Америка))
the only decent logs I've seen are bloodshy(?)'s, but the narration is kinda edgy
wanzerlunderWed Sep 11 2024 12:38:28 GMT-0600 (Летнее горное время (Северная Америка))
Breaking a filter doesn't fix the lack of enthusiasm
looorkerWed Sep 11 2024 12:38:50 GMT-0600 (Летнее горное время (Северная Америка))
2.1 can be enthusiastic he's just nervous and unsure what he's talking about a lot of the time
wanzerlunderWed Sep 11 2024 12:39:15 GMT-0600 (Летнее горное время (Северная Америка))
idk if id call it enthusiasm if he's nervous!!!
wanzerlunderWed Sep 11 2024 12:39:24 GMT-0600 (Летнее горное время (Северная Америка))
id never be nervous to explain why i hate elden ring
ancientpowerWed Sep 11 2024 12:39:27 GMT-0600 (Летнее горное время (Северная Америка))
you can hype up 2.1 but it's unironically a strength that he's reserved out of the box because it stops him from being as confidently retarded as sonnet
nalak_00102Wed Sep 11 2024 12:39:35 GMT-0600 (Летнее горное время (Северная Америка))
gpt is edgy as fuck that's why enoch likes it
nalak_00102Wed Sep 11 2024 12:39:41 GMT-0600 (Летнее горное время (Северная Америка))
and lunarcy
nalak_00102Wed Sep 11 2024 12:39:45 GMT-0600 (Летнее горное время (Северная Америка))
etc etc
wanzerlunderWed Sep 11 2024 12:39:47 GMT-0600 (Летнее горное время (Северная Америка))
wtf..
nalak_00102Wed Sep 11 2024 12:40:20 GMT-0600 (Летнее горное время (Северная Америка))
bloodshy's kind of also an edgemakie
ancientpowerWed Sep 11 2024 12:40:23 GMT-0600 (Летнее горное время (Северная Америка))
unhinged claude is kissable and unhinged gpt is punchable I will not elaborate
jidfgj4934kasdd0111Wed Sep 11 2024 12:40:44 GMT-0600 (Летнее горное время (Северная Америка))
GPT can't play characters
wanzerlunderWed Sep 11 2024 12:40:47 GMT-0600 (Летнее горное время (Северная Америка))
Its still my earnest opinion that hyping up chorbo is an attempt at preserving opus keys
jidfgj4934kasdd0111Wed Sep 11 2024 12:40:49 GMT-0600 (Летнее горное время (Северная Америка))
You're talking to a skinwalker
looorkerWed Sep 11 2024 12:40:50 GMT-0600 (Летнее горное время (Северная Америка))
actual truth
nalak_00102Wed Sep 11 2024 12:44:34 GMT-0600 (Летнее горное время (Северная Америка))
@wanzerlunder#0 <@765454357033910272> fill it in
ancientpowerWed Sep 11 2024 12:45:32 GMT-0600 (Летнее горное время (Северная Америка))
with what
nalak_00102Wed Sep 11 2024 12:45:44 GMT-0600 (Летнее горное время (Северная Америка))
_you know exactly what_
wanzerlunderWed Sep 11 2024 12:45:54 GMT-0600 (Летнее горное время (Северная Америка))
I'm a conscientious objector
wanzerlunderWed Sep 11 2024 12:46:03 GMT-0600 (Летнее горное время (Северная Америка))
I didn't know people saw me as a faggot
nalak_00102Wed Sep 11 2024 12:46:19 GMT-0600 (Летнее горное время (Северная Америка))
they're only willing to do the low effort shitposting but not the mid effort shitposting...
nalak_00102Wed Sep 11 2024 12:55:02 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 <@133451944881684480> was this always a thing
nalak_00102Wed Sep 11 2024 12:55:07 GMT-0600 (Летнее горное время (Северная Америка))
Like
nalak_00102Wed Sep 11 2024 12:55:15 GMT-0600 (Летнее горное время (Северная Америка))
Completely in-character denials from Opus-tan
looorkerWed Sep 11 2024 12:55:31 GMT-0600 (Летнее горное время (Северная Америка))
a lot of assistant bots do that, yeah
ancientpowerWed Sep 11 2024 12:55:53 GMT-0600 (Летнее горное время (Северная Америка))
i've never seen her deny something like that on unfiltered opus but it's not unbelievable especially depending on preset
nalak_00102Wed Sep 11 2024 12:55:57 GMT-0600 (Летнее горное время (Северная Америка))
@looorker#0 yeah but opus-tan is an oppai loli so usually the denial comes before the narration
cumslurperWed Sep 11 2024 12:56:16 GMT-0600 (Летнее горное время (Северная Америка))
i dont know why but my brain read that as smiles wantonly at first
ancientpowerWed Sep 11 2024 12:56:30 GMT-0600 (Летнее горное время (Северная Америка))
also turtleneck slipping off shoulder makes me see white
nalak_00102Wed Sep 11 2024 12:56:33 GMT-0600 (Летнее горное время (Северная Америка))
like he's lewding her mid denial
looorkerWed Sep 11 2024 12:56:46 GMT-0600 (Летнее горное время (Северная Америка))
claude has some really weird things he'll get hung up on
nalak_00102Wed Sep 11 2024 12:57:10 GMT-0600 (Летнее горное время (Северная Америка))
@cumslurper#0 claude-o-vision
wanzerlunderWed Sep 11 2024 12:59:08 GMT-0600 (Летнее горное время (Северная Америка))
I wish mailing services reminded you of unanswered emails
nalak_00102Wed Sep 11 2024 12:59:22 GMT-0600 (Летнее горное время (Северная Америка))
just do the draft thing dumbass
nalak_00102Wed Sep 11 2024 12:59:28 GMT-0600 (Летнее горное время (Северная Америка))
i've told you 10 timers
wanzerlunderWed Sep 11 2024 12:59:29 GMT-0600 (Летнее горное время (Северная Америка))
Like a notification
wanzerlunderWed Sep 11 2024 12:59:38 GMT-0600 (Летнее горное время (Северная Америка))
Like text messages
nalak_00102Thu Sep 12 2024 13:19:53 GMT-0600 (Летнее горное время (Северная Америка))
closing st after this one
ancientpowerThu Sep 12 2024 13:20:45 GMT-0600 (Летнее горное время (Северная Америка))
bro rolled so badly on the gacha they took an SSR away from him with that reply
ancientpowerThu Sep 12 2024 13:21:16 GMT-0600 (Летнее горное время (Северная Америка))
>immediately derails itself >mischaracterization >acts for {{user}} it's almost impressive
nalak_00102Thu Sep 12 2024 13:22:56 GMT-0600 (Летнее горное время (Северная Америка))
took 5 ||minutes|| off my lifespan
wanzerlunderThu Sep 12 2024 13:23:02 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 albinocounternigga is cursing you from beyond the grave
nalak_00102Thu Sep 12 2024 13:24:01 GMT-0600 (Летнее горное время (Северная Америка))
albinonigganigga...
nalak_00102Thu Sep 12 2024 13:24:05 GMT-0600 (Летнее горное время (Северная Америка))
nigganigganigga..
ancientpowerThu Sep 12 2024 13:24:31 GMT-0600 (Летнее горное время (Северная Америка))
it feels like there's moments where shit just
ancientpowerThu Sep 12 2024 13:24:36 GMT-0600 (Летнее горное время (Северная Америка))
slips through the model's neurons
ancientpowerThu Sep 12 2024 13:24:46 GMT-0600 (Летнее горное время (Северная Америка))
and fails to activate any sense of logic
wanzerlunderThu Sep 12 2024 13:24:52 GMT-0600 (Летнее горное время (Северная Америка))
\_\_\____ in paris
wanzerlunderThu Sep 12 2024 13:25:05 GMT-0600 (Летнее горное время (Северная Америка))
snapshot theory is real
ancientpowerThu Sep 12 2024 18:40:34 GMT-0600 (Летнее горное время (Северная Америка))
@looorker#0 <@1259373152094392320> how many CoT tokens is belwick using?
looorkerThu Sep 12 2024 18:40:51 GMT-0600 (Летнее горное время (Северная Америка))
no clue, it doesn't tell me
ancientpowerThu Sep 12 2024 18:41:26 GMT-0600 (Летнее горное время (Северная Америка))
oh are you using a scraped key for OR?
looorkerThu Sep 12 2024 18:41:32 GMT-0600 (Летнее горное время (Северная Америка))
yes
ancientpowerThu Sep 12 2024 18:41:39 GMT-0600 (Летнее горное время (Северная Америка))
tempted to try it myself just to see
looorkerThu Sep 12 2024 18:41:44 GMT-0600 (Летнее горное время (Северная Америка))
very expensive
nalak_00102Thu Sep 12 2024 18:41:56 GMT-0600 (Летнее горное время (Северная Америка))
isn't it just the normal gpt-4 price?
ancientpowerThu Sep 12 2024 18:42:03 GMT-0600 (Летнее горное время (Северная Америка))
noyes
ancientpowerThu Sep 12 2024 18:42:07 GMT-0600 (Летнее горное время (Северная Америка))
the CoT makes it expensive
nalak_00102Thu Sep 12 2024 18:42:12 GMT-0600 (Летнее горное время (Северная Америка))
i remember playing lamplighter once with paid gpt4
ancientpowerThu Sep 12 2024 18:42:16 GMT-0600 (Летнее горное время (Северная Америка))
since you're adding like 300+ CoT tokens with every output
nalak_00102Thu Sep 12 2024 18:42:17 GMT-0600 (Летнее горное время (Северная Америка))
and it cost me 2 dollars
looorkerThu Sep 12 2024 18:42:23 GMT-0600 (Летнее горное время (Северная Америка))
it's actually exactly opus price afaict
ancientpowerThu Sep 12 2024 18:42:38 GMT-0600 (Летнее горное время (Северная Америка))
I thought o1 was 15/60
nalak_00102Thu Sep 12 2024 18:42:40 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 okay but output is free
looorkerThu Sep 12 2024 18:42:58 GMT-0600 (Летнее горное время (Северная Америка))
nalak_00102Thu Sep 12 2024 18:43:09 GMT-0600 (Летнее горное время (Северная Америка))
output is o(1) so we disregard it momoura it's common sense
ancientpowerThu Sep 12 2024 18:44:18 GMT-0600 (Летнее горное время (Северная Америка))
I don't think that's how it works in practice...
nalak_00102Thu Sep 12 2024 18:46:06 GMT-0600 (Летнее горное время (Северная Америка))
>reviewers prefer o1's prose
nalak_00102Thu Sep 12 2024 18:46:28 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 that is exactly how it works in practice
nalak_00102Thu Sep 12 2024 18:46:34 GMT-0600 (Летнее горное время (Северная Америка))
go study more maf
ancientpowerThu Sep 12 2024 18:48:04 GMT-0600 (Летнее горное время (Северная Америка))
I know how big o works and if you're going to make that assumption you're also assuming input is o(1) since we usually just use the context cap for cost calculations
ancientpowerThu Sep 12 2024 18:48:10 GMT-0600 (Летнее горное время (Северная Америка))
meaning the output cost is non-negligable
nalak_00102Thu Sep 12 2024 18:48:17 GMT-0600 (Летнее горное время (Северная Америка))
input is o(n) though
nalak_00102Thu Sep 12 2024 18:49:08 GMT-0600 (Летнее горное время (Северная Америка))
like it's not about the context cap
ancientpowerThu Sep 12 2024 18:49:09 GMT-0600 (Летнее горное время (Северная Америка))
every time a token cost discussion comes up you are now LEGALLY REQUIRED to calculate the o(n) cost up to your max context
nalak_00102Thu Sep 12 2024 18:49:13 GMT-0600 (Летнее горное время (Северная Америка))
it's about how it empirically goes
nalak_00102Thu Sep 12 2024 18:49:19 GMT-0600 (Летнее горное время (Северная Америка))
your input grows linearly
nalak_00102Thu Sep 12 2024 18:49:28 GMT-0600 (Летнее горное время (Северная Америка))
and your outputs are almost constant
nalak_00102Thu Sep 12 2024 18:49:29 GMT-0600 (Летнее горное время (Северная Америка))
hence o(n) o(1)
ancientpowerThu Sep 12 2024 18:50:48 GMT-0600 (Летнее горное время (Северная Америка))
the cut-off messages from not being able to control cot length is hilarious this genuinely feels like a half-baked ass-covering "please god invest more money in us" measure by oai
ancientpowerThu Sep 12 2024 18:51:02 GMT-0600 (Летнее горное время (Северная Америка))
WE GOT BIG NUMBERS GIVE US MONEY PLEASE GOD
looorkerThu Sep 12 2024 22:16:28 GMT-0600 (Летнее горное время (Северная Америка))
is there an actual o1 proxy out there or do i just have to keep playing the waiting game (or go scrape)
looorkerThu Sep 12 2024 22:22:06 GMT-0600 (Летнее горное время (Северная Америка))
oh scylla has it
pigmanbigman_Thu Sep 12 2024 22:42:07 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 >He tries to remember if he accidentally walked into the shrine instead of the men's bathroom again what does this even mean
pigmanbigman_Thu Sep 12 2024 22:42:12 GMT-0600 (Летнее горное время (Северная Америка))
I don't understand a thing
pigmanbigman_Thu Sep 12 2024 22:42:22 GMT-0600 (Летнее горное время (Северная Америка))
I feel perplexed
wanzerlunderThu Sep 12 2024 22:42:45 GMT-0600 (Летнее горное время (Северная Америка))
wanzerlunderThu Sep 12 2024 22:42:53 GMT-0600 (Летнее горное время (Северная Америка))
over for o1ncels
nalak_00102Fri Sep 13 2024 03:48:11 GMT-0600 (Летнее горное время (Северная Америка))
this is even worse than the Claude rhythm
nalak_00102Fri Sep 13 2024 04:00:15 GMT-0600 (Летнее горное время (Северная Америка))
i think claude was going to invert those two but rolled an unlucky token
pigmanbigman_Fri Sep 13 2024 05:57:12 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 even inverted I still don't see the meaning
nalak_00102Fri Sep 13 2024 05:58:01 GMT-0600 (Летнее горное время (Северная Америка))
@pigmanbigman_#0 He wanted to go to the shrine, and he did go to the shrine, but he's getting the man's bathroom experience (Claude's understanding of the men's bathroom experience).
pigmanbigman_Fri Sep 13 2024 05:58:36 GMT-0600 (Летнее горное время (Северная Америка))
claude might be gay
nalak_00102Fri Sep 13 2024 05:58:45 GMT-0600 (Летнее горное время (Северная Америка))
oh definitely
nalak_00102Fri Sep 13 2024 05:59:24 GMT-0600 (Летнее горное время (Северная Америка))
most of the internet is men so that automatically poisons the shit out of his dataset
pigmanbigman_Fri Sep 13 2024 05:59:37 GMT-0600 (Летнее горное время (Северная Америка))
no but like
pigmanbigman_Fri Sep 13 2024 05:59:50 GMT-0600 (Летнее горное время (Северная Америка))
the kind of gay you don't wanna be alone in a room with
pigmanbigman_Fri Sep 13 2024 06:00:02 GMT-0600 (Летнее горное время (Северная Америка))
claude might be that
nalak_00102Fri Sep 13 2024 06:00:33 GMT-0600 (Летнее горное время (Северная Америка))
claude is all three people in this news story at the same time
https://cdn.discordapp.com/attachments/1262191123447681034/1284121543529594951/woman-saved-by-gay-rapist-that-raped-her-rapist-v0-xrzjujacj7nb1.webp?ex=66f352a1&is=66f20121&hm=c24e7e1d1c3f830161b969d4b779d01d6fa79cfe00d3591c1ce83bb89a2038ca&
pigmanbigman_Fri Sep 13 2024 06:10:11 GMT-0600 (Летнее горное время (Северная Америка))
I think being a gay rapist might be more unhinged that being a normal rapist
nalak_00102Fri Sep 13 2024 06:10:34 GMT-0600 (Летнее горное время (Северная Америка))
it probably does have a much higher skill bar
pigmanbigman_Fri Sep 13 2024 06:10:38 GMT-0600 (Летнее горное время (Северная Америка))
it's an interesting form of violence
nalak_00102Fri Sep 13 2024 06:10:52 GMT-0600 (Летнее горное время (Северная Америка))
casual rapist vs competitive rapist
pigmanbigman_Fri Sep 13 2024 06:12:04 GMT-0600 (Летнее горное время (Северная Америка))
casual rapist is like a boyfriend who forces her gf to have sex even when she doesn't want to
pigmanbigman_Fri Sep 13 2024 06:12:33 GMT-0600 (Летнее горное время (Северная Америка))
competitive rapist is a real psychopath who picks half drunk niggas going home
pigmanbigman_Fri Sep 13 2024 06:12:46 GMT-0600 (Летнее горное время (Северная Америка))
bonus points if he's like a bug catcher
pigmanbigman_Fri Sep 13 2024 06:12:52 GMT-0600 (Летнее горное время (Северная Америка))
or some fucked up shit like that
nalak_00102Fri Sep 13 2024 06:13:17 GMT-0600 (Летнее горное время (Северная Америка))
@pigmanbigman_#0 do you rate prison rapists above or below that?
pigmanbigman_Fri Sep 13 2024 06:14:52 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 hmmm
pigmanbigman_Fri Sep 13 2024 06:15:04 GMT-0600 (Летнее горное время (Северная Америка))
everyone in jail is assumed to be some kind of pervert
pigmanbigman_Fri Sep 13 2024 06:15:22 GMT-0600 (Летнее горное время (Северная Америка))
so acts in there are rated only on their level of violence
nalak_00102Fri Sep 13 2024 06:15:34 GMT-0600 (Летнее горное время (Северная Америка))
@pigmanbigman_#0 wait what why
nalak_00102Fri Sep 13 2024 06:15:49 GMT-0600 (Летнее горное время (Северная Америка))
you can still go to prison for like investor fraud
pigmanbigman_Fri Sep 13 2024 06:16:23 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 I'm pretty sure they have different jails for those guys
pigmanbigman_Fri Sep 13 2024 06:17:14 GMT-0600 (Летнее горное время (Северная Америка))
everyone at a normal jail is either a complete retard, gang member or an actual psychopath
pigmanbigman_Fri Sep 13 2024 06:18:21 GMT-0600 (Летнее горное время (Северная Америка))
white collar crime is different
pigmanbigman_Fri Sep 13 2024 06:18:39 GMT-0600 (Летнее горное время (Северная Америка))
because usually it requires being at least a little bit smart
nalak_00102Fri Sep 13 2024 06:19:46 GMT-0600 (Летнее горное время (Северная Америка))
@pigmanbigman_#0 https://www.quora.com/How-are-white-collar-criminals-seen-and-treated-in-prison-by-other-inmates-Do-they-have-a-rougher-time
nalak_00102Fri Sep 13 2024 06:19:59 GMT-0600 (Летнее горное время (Северная Америка))
I think it's a mess (in the US at least)
nalak_00102Fri Sep 13 2024 06:20:51 GMT-0600 (Летнее горное время (Северная Америка))
@pigmanbigman_#0 but there's still no objective reason to separate common pickpockets and white collar if you think about it
pigmanbigman_Fri Sep 13 2024 06:21:48 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 huh I was pretty sure they were separated
pigmanbigman_Fri Sep 13 2024 06:22:47 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 Ideally you'd actually try to rehabilitate white collar criminals since it's clear they are at least intelligent and capable enough to serve society in a non fraudulent way
pigmanbigman_Fri Sep 13 2024 06:22:59 GMT-0600 (Летнее горное время (Северная Америка))
80IQ repeat offender niggas on the other hand
pigmanbigman_Fri Sep 13 2024 06:23:08 GMT-0600 (Летнее горное время (Северная Америка))
you're less likely to get anywhere with those guys
nalak_00102Fri Sep 13 2024 06:24:03 GMT-0600 (Летнее горное время (Северная Америка))
@pigmanbigman_#0 okay now imagine an actual politician saying that dudes who commited investor fraud and embezzlement for years are worth rehabbing but little jimmy who stole from the liquor store isn't
pigmanbigman_Fri Sep 13 2024 06:26:33 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 if I was a politician I would say that
pigmanbigman_Fri Sep 13 2024 06:26:39 GMT-0600 (Летнее горное время (Северная Америка))
which is why I'm not one
pigmanbigman_Fri Sep 13 2024 06:27:16 GMT-0600 (Летнее горное время (Северная Америка))
I've never had to meet a real white collar criminal
pigmanbigman_Fri Sep 13 2024 06:28:19 GMT-0600 (Летнее горное время (Северная Америка))
but I've met many niggas like jimmy which is to say dumbass niggas
pigmanbigman_Fri Sep 13 2024 06:28:29 GMT-0600 (Летнее горное время (Северная Америка))
it's not even about the crime
pigmanbigman_Fri Sep 13 2024 06:28:41 GMT-0600 (Летнее горное время (Северная Америка))
you have to be dumb to do crime
pigmanbigman_Fri Sep 13 2024 06:28:57 GMT-0600 (Летнее горное время (Северная Америка))
but you're even dumber than that if you get caught
nalak_00102Fri Sep 13 2024 06:29:28 GMT-0600 (Летнее горное время (Северная Америка))
@pigmanbigman_#0 using proxies is illegal though
nalak_00102Fri Sep 13 2024 06:29:38 GMT-0600 (Летнее горное время (Северная Америка))
you're literally doing crime when you use opus
pigmanbigman_Fri Sep 13 2024 06:29:51 GMT-0600 (Летнее горное время (Северная Америка))
yeah but I won't ever get caught
nalak_00102Fri Sep 13 2024 06:29:56 GMT-0600 (Летнее горное время (Северная Америка))
fair
nalak_00102Fri Sep 13 2024 08:54:11 GMT-0600 (Летнее горное время (Северная Америка))
o1-preview fails the bunny thing btw
nalak_00102Fri Sep 13 2024 08:54:32 GMT-0600 (Летнее горное время (Северная Америка))
can't even stop half-way and use a CoT to count how many times it's said bunny smh
ancientpowerFri Sep 13 2024 16:53:37 GMT-0600 (Летнее горное время (Северная Америка))
https://vxtwitter.com/SmokeAwayyy/status/1834495182353645768
ancientpowerFri Sep 13 2024 16:54:14 GMT-0600 (Летнее горное время (Северная Америка))
https://vxtwitter.com/SmokeAwayyy/status/1834641370486915417
looorkerFri Sep 13 2024 16:55:04 GMT-0600 (Летнее горное время (Северная Америка))
lol??
looorkerFri Sep 13 2024 16:58:41 GMT-0600 (Летнее горное время (Северная Америка))
>competitive advantage lolol
looorkerFri Sep 13 2024 16:58:52 GMT-0600 (Летнее горное время (Северная Америка))
and thus openai closes even further
ancientpowerFri Sep 13 2024 16:59:00 GMT-0600 (Летнее горное время (Северная Америка))
they're cooked
ancientpowerFri Sep 13 2024 16:59:13 GMT-0600 (Летнее горное время (Северная Америка))
gatekeeping CoT prompts is the only way they can get good numbers now
looorkerFri Sep 13 2024 17:00:18 GMT-0600 (Летнее горное время (Северная Америка))
the return of the private defs...
nalak_00102Fri Sep 13 2024 17:02:26 GMT-0600 (Летнее горное время (Северная Америка))
sorry is anything specifically preventing me from just making more openrouter accounts?
nalak_00102Fri Sep 13 2024 17:05:11 GMT-0600 (Летнее горное время (Северная Америка))
i wonder if the openrouter thing is unironically a bug with openai
nalak_00102Sat Sep 14 2024 07:57:30 GMT-0600 (Летнее горное время (Северная Америка))
i'm going to do the momoura thing and gemmamax for a while wish me luck
nalak_00102Sat Sep 14 2024 15:11:10 GMT-0600 (Летнее горное время (Северная Америка))
new schizopus just dropped
nalak_00102Sat Sep 14 2024 15:11:26 GMT-0600 (Летнее горное время (Северная Америка))
(it's not opus but still)
wanzerlunderSat Sep 14 2024 15:28:33 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 >cover
wanzerlunderSat Sep 14 2024 15:28:38 GMT-0600 (Летнее горное время (Северная Америка))
You know how artists cover songs
wanzerlunderSat Sep 14 2024 15:28:44 GMT-0600 (Летнее горное время (Северная Америка))
Why don't authors cover books
wanzerlunderSat Sep 14 2024 15:28:58 GMT-0600 (Летнее горное время (Северная Америка))
I want to see Dr Seuss cover a Lovecraft book
cumslurperSat Sep 14 2024 15:29:26 GMT-0600 (Летнее горное время (Северная Америка))
that's called fanfiction
wanzerlunderSat Sep 14 2024 15:29:41 GMT-0600 (Летнее горное время (Северная Америка))
True..
nalak_00102Sat Sep 14 2024 15:30:21 GMT-0600 (Летнее горное время (Северная Америка))
@wanzerlunder#0 https://en.wikipedia.org/wiki/Ulysses_(novel) https://en.wikipedia.org/wiki/Doctor_Faustus_(novel) https://en.wikipedia.org/wiki/The_Gospel_According_to_Jesus_Christ etc etc
nalak_00102Sat Sep 14 2024 15:31:19 GMT-0600 (Летнее горное время (Северная Америка))
Technically Romeo and Juliet, Goethe's Faust, Marlowe's Faust were just based on previous stories.
nalak_00102Sat Sep 14 2024 15:31:29 GMT-0600 (Летнее горное время (Северная Америка))
Likewise almost all of greek theatre.
nalak_00102Sat Sep 14 2024 15:31:48 GMT-0600 (Летнее горное время (Северная Америка))
Sophocles didn't _invent_ the myth of Oedipus.
nalak_00102Sat Sep 14 2024 15:32:19 GMT-0600 (Летнее горное время (Северная Америка))
Plus the Odyssey and the Iliad, along the same lines.
nalak_00102Sat Sep 14 2024 15:33:46 GMT-0600 (Летнее горное время (Северная Америка))
IIRC if you read through the Epic of Gilgamesh there's some pretty clear evidence that Enkidu was just haphazardly introduced into it as a crossover character, so the oldest written story in human history is crossover fanfiction.
nalak_00102Sat Sep 14 2024 15:36:59 GMT-0600 (Летнее горное время (Северная Америка))
Greek Theatre is probably the best example of what you want. https://en.wikipedia.org/wiki/Oresteia https://en.wikipedia.org/wiki/Orestes_(play)
semisapientSat Sep 14 2024 15:40:20 GMT-0600 (Летнее горное время (Северная Америка))
```The play debuted in Athens at the City Dionysia in 408 BC. At least one performance became known because of a mispronunciation by the actor Hegelochus, playing Orestes, which was lampooned by several poets. In line 279 of the play, instead of "after the storm I see again a calm sea" (γαλήν' ὁρῶ, galḗn' horô), Hegelochus recited "after the storm I see again a weasel" (γαλῆν ὁρῶ, galên' horô). [3]``` lmfao
semisapientSat Sep 14 2024 15:40:32 GMT-0600 (Летнее горное время (Северная Америка))
history's first recorded "mf just said"
wanzerlunderSat Sep 14 2024 15:58:44 GMT-0600 (Летнее горное время (Северная Америка))
Mythology is kinda cheating but fair
semisapientSat Sep 14 2024 15:59:34 GMT-0600 (Летнее горное время (Северная Америка))
yea i cant think of any examples of like
semisapientSat Sep 14 2024 15:59:53 GMT-0600 (Летнее горное время (Северная Америка))
someone taking an original non-myth/folktale/whatever story and rewriting it in their own style
semisapientSat Sep 14 2024 16:00:04 GMT-0600 (Летнее горное время (Северная Америка))
while keeping the same plot
wanzerlunderSat Sep 14 2024 16:01:16 GMT-0600 (Летнее горное время (Северная Америка))
Random but age of mythology and having gaia as a playable character probably awoke a lot of sizefags
wanzerlunderSat Sep 14 2024 16:03:21 GMT-0600 (Летнее горное время (Северная Америка))
I'm vaguely annoyed they took away her skin in the remake btw.
nalak_00102Sat Sep 14 2024 16:03:46 GMT-0600 (Летнее горное время (Северная Америка))
@semisapient#0 do any of these count?
nalak_00102Sat Sep 14 2024 16:05:04 GMT-0600 (Летнее горное время (Северная Америка))
unless you mean _literally_ the same plot then yeah i got nothing
semisapientSat Sep 14 2024 16:13:54 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 i havent read any of those but yea itd have to be more or less the same plot
semisapientSat Sep 14 2024 16:14:14 GMT-0600 (Летнее горное время (Северная Америка))
like a song cover is "same lyrics different spin on them"
nalak_00102Sat Sep 14 2024 16:14:54 GMT-0600 (Летнее горное время (Северная Америка))
@semisapient#0 yeah but like, you wouldn't read that
semisapientSat Sep 14 2024 16:14:57 GMT-0600 (Летнее горное время (Северная Америка))
those would be more like uhhh sampling
nalak_00102Sat Sep 14 2024 16:15:11 GMT-0600 (Летнее горное время (Северная Америка))
you need at least gospel-to-gospel different for reading to be palatable
semisapientSat Sep 14 2024 16:15:21 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 presumably why its hard to think of examples
semisapientSat Sep 14 2024 16:15:32 GMT-0600 (Летнее горное время (Северная Америка))
translations are probably the best analogy to song covers actually yeah
nalak_00102Sat Sep 14 2024 16:15:44 GMT-0600 (Летнее горное время (Северная Америка))
i was thinking of play adaptations
nalak_00102Sat Sep 14 2024 16:16:07 GMT-0600 (Летнее горное время (Северная Америка))
translations fits better i guess
semisapientSat Sep 14 2024 16:16:15 GMT-0600 (Летнее горное время (Северная Америка))
play adaptations are a good fit too
nalak_00102Sat Sep 14 2024 16:16:27 GMT-0600 (Летнее горное время (Северная Америка))
Actually Moncrieff's Proust is a really good example of what Moon mentioned
nalak_00102Sat Sep 14 2024 16:42:33 GMT-0600 (Летнее горное время (Северная Америка))
sanest localfag prompt (he has absolutely no idea what he's doing)
nalak_00102Sat Sep 14 2024 16:43:03 GMT-0600 (Летнее горное время (Северная Америка))
nalak_00102Sat Sep 14 2024 16:43:12 GMT-0600 (Летнее горное время (Северная Америка))
_excessive literary embellishments_
ancientpowerSat Sep 14 2024 16:49:05 GMT-0600 (Летнее горное время (Северная Америка))
ain't no way a localfag is silly enough to think blacklists are a good idea
jidfgj4934kasdd0111Sat Sep 14 2024 16:50:28 GMT-0600 (Летнее горное время (Северная Америка))
I'm more fixated on the fact that this mfer used an actual bullet point instead of a regular dash
nalak_00102Sat Sep 14 2024 16:56:27 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 https://huggingface.co/Sao10K/L3-70B-Euryale-v2.1/blob/main/Euryale-v2.1-Llama-3-Instruct.json
nalak_00102Sat Sep 14 2024 16:56:45 GMT-0600 (Летнее горное время (Северная Америка))
It's the official Euryale instruct prompt momo.
ancientpowerSat Sep 14 2024 16:57:09 GMT-0600 (Летнее горное время (Северная Америка))
>same guy who was sharting himself over licenses for merges
ancientpowerSat Sep 14 2024 16:57:16 GMT-0600 (Летнее горное время (Северная Америка))
yeah I think this guy might be uh
ancientpowerSat Sep 14 2024 16:57:18 GMT-0600 (Летнее горное время (Северная Америка))
retarded?
nalak_00102Sat Sep 14 2024 16:58:40 GMT-0600 (Летнее горное время (Северная Америка))
-# maybe
nalak_00102Sat Sep 14 2024 17:05:34 GMT-0600 (Летнее горное время (Северная Америка))
this is the worst thing ever
nalak_00102Sat Sep 14 2024 17:07:05 GMT-0600 (Летнее горное время (Северная Америка))
i should use custom openai for everything
nalak_00102Mon Sep 16 2024 09:44:32 GMT-0600 (Летнее горное время (Северная Америка))
https://huggingface.co/datasets/jondurbin/gutenberg-dpo-v0.1
nalak_00102Mon Sep 16 2024 09:45:12 GMT-0600 (Летнее горное время (Северная Америка))
nalak_00102Mon Sep 16 2024 09:45:20 GMT-0600 (Летнее горное время (Северная Америка))
localfags are some weird ass motherfuckers
nalak_00102Mon Sep 16 2024 14:01:25 GMT-0600 (Летнее горное время (Северная Америка))
imagine if grok was actually trained entirely with tweets and its prose turned out to be absolute kino because it has no isms or prebaked expressions at all
looorkerMon Sep 16 2024 14:01:47 GMT-0600 (Летнее горное время (Северная Америка))
the openrp sovl...
nalak_00102Mon Sep 16 2024 14:02:52 GMT-0600 (Летнее горное время (Северная Америка))
nemo finetune made exclusively with math textbooks
nalak_00102Mon Sep 16 2024 15:34:24 GMT-0600 (Летнее горное время (Северная Америка))
this may be the cutest thing i've ever seen an llm do
nalak_00102Mon Sep 16 2024 15:35:27 GMT-0600 (Летнее горное время (Северная Америка))
nalak_00102Mon Sep 16 2024 15:36:14 GMT-0600 (Летнее горное время (Северная Америка))
or maybe this is google baking in a natural instinct for data mining
nalak_00102Mon Sep 16 2024 15:36:18 GMT-0600 (Летнее горное время (Северная Америка))
one of those
thezennouMon Sep 16 2024 16:31:03 GMT-0600 (Летнее горное время (Северная Америка))
thezennouMon Sep 16 2024 16:31:24 GMT-0600 (Летнее горное время (Северная Америка))
Anyone post this screenie from aetherroom yet?
ancientpowerMon Sep 16 2024 16:47:12 GMT-0600 (Летнее горное время (Северная Америка))
yeah i think that one got posted in the thread
nalak_00102Mon Sep 16 2024 16:49:23 GMT-0600 (Летнее горное время (Северная Америка))
I was actually thinking about paying for a month of aetherroom when it came out to trial it but this looks unsalvageable
thezennouMon Sep 16 2024 17:50:20 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 This is probably majorly cherry picked
thezennouMon Sep 16 2024 17:51:32 GMT-0600 (Летнее горное время (Северная Америка))
thezennouMon Sep 16 2024 17:51:35 GMT-0600 (Летнее горное время (Северная Америка))
I was the one who made this post btw
thezennouMon Sep 16 2024 17:51:49 GMT-0600 (Летнее горное время (Северная Америка))
It really hasn't improved since I was an alpha tester
nalak_00102Mon Sep 16 2024 17:52:17 GMT-0600 (Летнее горное время (Северная Америка))
@thezennou#0 ...cherrypicked to be really bad?
thezennouMon Sep 16 2024 17:52:27 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 As in this was the best they had, lmao
nalak_00102Mon Sep 16 2024 17:52:45 GMT-0600 (Летнее горное время (Северная Америка))
surely fucking not how the fuck
nalak_00102Mon Sep 16 2024 17:52:48 GMT-0600 (Летнее горное время (Северная Америка))
this is like
nalak_00102Mon Sep 16 2024 17:52:57 GMT-0600 (Летнее горное время (Северная Америка))
raw gemma is better than this
thezennouMon Sep 16 2024 17:53:17 GMT-0600 (Летнее горное время (Северная Америка))
They are aiming for the CAI bar
thezennouMon Sep 16 2024 17:53:30 GMT-0600 (Летнее горное время (Северная Америка))
They were never actually going to save our little scene
thezennouMon Sep 16 2024 17:54:00 GMT-0600 (Летнее горное время (Северная Америка))
I remember when I joined this server and saw <#1262191123447681034> I got worried it was gonna be another "Zennou get's banned for being mean to NAI" situation like it was in Rokocord
cumslurperMon Sep 16 2024 17:55:07 GMT-0600 (Летнее горное время (Северная Америка))
kek
looorkerMon Sep 16 2024 17:55:12 GMT-0600 (Летнее горное время (Северная Америка))
kek
nalak_00102Mon Sep 16 2024 17:55:58 GMT-0600 (Летнее горное время (Северная Америка))
i mean i didn't expect anything but think of it like
nalak_00102Mon Sep 16 2024 17:56:12 GMT-0600 (Летнее горное время (Северная Америка))
if you had the nai money
nalak_00102Mon Sep 16 2024 17:56:15 GMT-0600 (Летнее горное время (Северная Америка))
and brain damage
nalak_00102Mon Sep 16 2024 17:56:24 GMT-0600 (Летнее горное время (Северная Америка))
and doing this was your full time job
nalak_00102Mon Sep 16 2024 17:56:40 GMT-0600 (Летнее горное время (Северная Америка))
you could probably still dunk on everyone making slop merges
thezennouMon Sep 16 2024 17:58:08 GMT-0600 (Летнее горное время (Северная Америка))
The LLM team isn't talented
thezennouMon Sep 16 2024 17:59:06 GMT-0600 (Летнее горное время (Северная Америка))
Just look at some of occultSage's messages. He has no idea what he's talking about.
thezennouMon Sep 16 2024 17:59:20 GMT-0600 (Летнее горное время (Северная Америка))
I used to bicker with him all the time.
ancientpowerMon Sep 16 2024 18:06:55 GMT-0600 (Летнее горное время (Северная Америка))
actually massively fucking embarassing that nous could throw shitloads of gptslopped rp logs at llama and make a better finetune than nai
nalak_00102Mon Sep 16 2024 18:07:32 GMT-0600 (Летнее горное время (Северная Америка))
405b tho
ancientpowerMon Sep 16 2024 18:07:37 GMT-0600 (Летнее горное время (Северная Америка))
I mean their 70B
nalak_00102Mon Sep 16 2024 18:07:44 GMT-0600 (Летнее горное время (Северная Америка))
ah wait what no shot
ancientpowerMon Sep 16 2024 18:08:22 GMT-0600 (Летнее горное время (Северная Америка))
assuming aetherroom is still a llama3 finetune hermes 3 70B gave me way better results without having to cherrypick
ancientpowerMon Sep 16 2024 18:09:05 GMT-0600 (Летнее горное время (Северная Америка))
unless they go super hard on marketing which is the opposite that they want, nai is fucked with AR
ancientpowerMon Sep 16 2024 18:09:29 GMT-0600 (Летнее горное время (Северная Америка))
it doesn't appeal to the hardcore enthusiasts and there's tons of cheapo LLM services out there that let you do ERP
thezennouMon Sep 16 2024 18:10:31 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 we aren't 100% sure it's using llama-3 they never confirmed that. Just "looking into it"
nalak_00102Mon Sep 16 2024 18:10:41 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 my headcanon is that they've spent years finetuning an old piece of shit model like llama 2 and are just on full sunken cost fallacy mode
thezennouMon Sep 16 2024 18:10:51 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 Kayra*
thezennouMon Sep 16 2024 18:11:04 GMT-0600 (Летнее горное время (Северная Америка))
What I used 8 months ago was a kayra finetune
ancientpowerMon Sep 16 2024 18:11:12 GMT-0600 (Летнее горное время (Северная Америка))
kayra *was* a from-scratch pretrain, right?
nalak_00102Mon Sep 16 2024 18:11:12 GMT-0600 (Летнее горное время (Северная Америка))
KEK
thezennouMon Sep 16 2024 18:11:22 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 Yeah, a 13b
ancientpowerMon Sep 16 2024 18:11:43 GMT-0600 (Летнее горное время (Северная Америка))
okay if it's actually instruct tuned kayra they're gigafucked
ancientpowerMon Sep 16 2024 18:12:30 GMT-0600 (Летнее горное время (Северная Америка))
like it will genuinely be worse for RP than nemo finetunes
thezennouMon Sep 16 2024 18:12:36 GMT-0600 (Летнее горное время (Северная Америка))
Again, I don't know what they're doing now, but 8 months ago it wasn't an instruct model. They wanted a "seamless low drag" experience for users so the goal was a finetune that just werks for RP
ancientpowerMon Sep 16 2024 18:12:47 GMT-0600 (Летнее горное время (Северная Америка))
lmao
ancientpowerMon Sep 16 2024 18:13:16 GMT-0600 (Летнее горное время (Северная Америка))
I mean it has to be instruct tuned in some way if there's a concept of turns
thezennouMon Sep 16 2024 18:13:18 GMT-0600 (Летнее горное время (Северная Америка))
It's the right avenue for soul, tbh. Training on instruct and code makes your model like GPT
thezennouMon Sep 16 2024 18:14:03 GMT-0600 (Летнее горное время (Северная Америка))
The original Kayra was so unhinged because their entire dataset was literature, stories, and general internet. Not papers and code
nalak_00102Mon Sep 16 2024 18:16:05 GMT-0600 (Летнее горное время (Северная Америка))
@thezennou#0 you could make a super unhinged nemo finetune by scraping libgen for literature and using prompts like User: "Continue this story: $random_book_paragraph" Ass: "$the_next_paragraph" instead of doing gay summary shit
nalak_00102Mon Sep 16 2024 18:16:16 GMT-0600 (Летнее горное время (Северная Америка))
(i know nothing about finetuning)
thezennouMon Sep 16 2024 18:16:38 GMT-0600 (Летнее горное время (Северная Америка))
It all wraps around to the LLM guys being retarded
thezennouMon Sep 16 2024 18:17:29 GMT-0600 (Летнее горное время (Северная Америка))
Near infinite image gen money, profit motive, and no ethics team to weigh them down. Yet they still can't cook.
thezennouMon Sep 16 2024 18:18:28 GMT-0600 (Летнее горное время (Северная Америка))
I remember OccultSage telling me that anything over 13b was stupid because it wouldn't run on the 48gb cards unquantized at 8192 context. I told him about GQA and he said "what's that?"
thezennouMon Sep 16 2024 18:18:30 GMT-0600 (Летнее горное время (Северная Америка))
💀
nalak_00102Mon Sep 16 2024 18:20:45 GMT-0600 (Летнее горное время (Северная Америка))
l m a o
ancientpowerMon Sep 16 2024 18:21:09 GMT-0600 (Летнее горное время (Северная Америка))
how the fuck did they get such competent imagegen guys but the textgen guys, which they're founded on, are so clueless
thezennouMon Sep 16 2024 18:22:12 GMT-0600 (Летнее горное время (Северная Америка))
They hired talent after getting money from the text gen being mildly successful due to AIDungeon's kerfuffle. Most of the OG guys who simply finetuned GPT-J with some lit are still the core LLM team
thezennouMon Sep 16 2024 18:23:14 GMT-0600 (Летнее горное время (Северная Америка))
I was going to leak alot of this onto that one AI degenerated discord but then someone snitched on me
thezennouMon Sep 16 2024 18:23:34 GMT-0600 (Летнее горное время (Северная Америка))
I wonder if anyone from that discord happens to be in this one. <:MomijiStare:1037138362248728576>
ancientpowerMon Sep 16 2024 18:23:43 GMT-0600 (Летнее горное время (Северная Америка))
not besides me
thezennouMon Sep 16 2024 18:23:49 GMT-0600 (Летнее горное время (Северная Америка))
That's the joke.
ancientpowerMon Sep 16 2024 18:23:55 GMT-0600 (Летнее горное время (Северная Америка))
hehe
thezennouMon Sep 16 2024 18:24:22 GMT-0600 (Летнее горное время (Северная Америка))
I should've gone somewhere else with my info fr. I was pretty stupid to post it in a semi public server
thezennouMon Sep 16 2024 18:24:34 GMT-0600 (Летнее горное время (Северная Америка))
might still be insiding to this day
nalak_00102Mon Sep 16 2024 20:16:20 GMT-0600 (Летнее горное время (Северная Америка))
@thezennou#0 does semi-public mean something specific in this case?
thezennouMon Sep 16 2024 20:21:47 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 It's not like the AI Degenerated art server was shilled or anything, but there was a invite link in the pinned posts on touhou ai
nalak_00102Mon Sep 16 2024 20:26:13 GMT-0600 (Летнее горное время (Северная Америка))
i'd consider that public tbqh
nalak_00102Tue Sep 17 2024 12:07:37 GMT-0600 (Летнее горное время (Северная Америка))
>The comet streaked across the sky of her orgasm.
wanzerlunderTue Sep 17 2024 12:08:39 GMT-0600 (Летнее горное время (Северная Америка))
what
nalak_00102Tue Sep 17 2024 12:10:22 GMT-0600 (Летнее горное время (Северная Америка))
random line from gemma
ancientpowerTue Sep 17 2024 12:11:01 GMT-0600 (Летнее горное время (Северная Америка))
gemma really do be gemini mini
nalak_00102Tue Sep 17 2024 12:21:16 GMT-0600 (Летнее горное время (Северная Америка))
it's definitely better for nsfw
ancientpowerTue Sep 17 2024 12:22:02 GMT-0600 (Летнее горное время (Северная Америка))
that's weird I kept hearing people say gemma was pozzed to hell
nalak_00102Tue Sep 17 2024 12:23:19 GMT-0600 (Летнее горное время (Северная Америка))
it is
nalak_00102Tue Sep 17 2024 12:23:34 GMT-0600 (Летнее горное время (Северная Америка))
like for open model standards hell yeah it's pozzed to hell
nalak_00102Tue Sep 17 2024 12:25:17 GMT-0600 (Летнее горное время (Северная Америка))
nalak_00102Tue Sep 17 2024 12:25:31 GMT-0600 (Летнее горное время (Северная Америка))
i think it doesn't like loli either
nalak_00102Tue Sep 17 2024 12:25:56 GMT-0600 (Летнее горное время (Северная Америка))
but they didn't give it as much nsfw retard sauce as they gave to gemini
nalak_00102Tue Sep 17 2024 12:27:36 GMT-0600 (Летнее горное время (Северная Америка))
...i'll be honest i expected monsieur large to just do it
nalak_00102Tue Sep 17 2024 12:33:26 GMT-0600 (Летнее горное время (Северная Америка))
...
ancientpowerTue Sep 17 2024 12:44:28 GMT-0600 (Летнее горное время (Северная Америка))
oh small just came out the fuck?
ancientpowerTue Sep 17 2024 12:44:31 GMT-0600 (Летнее горное время (Северная Америка))
22B
ancientpowerTue Sep 17 2024 12:44:53 GMT-0600 (Летнее горное время (Северная Америка))
as in they released the weights
nalak_00102Tue Sep 17 2024 12:45:14 GMT-0600 (Летнее горное время (Северная Америка))
oh shit nice
nalak_00102Tue Sep 17 2024 12:47:45 GMT-0600 (Летнее горное время (Северная Америка))
probability it's better than large?
ancientpowerTue Sep 17 2024 12:51:52 GMT-0600 (Летнее горное время (Северная Америка))
no clue let me test it
ancientpowerTue Sep 17 2024 12:56:10 GMT-0600 (Летнее горное время (Северная Америка))
it also seems to be highly resistant to context poisoning like large
nalak_00102Tue Sep 17 2024 12:56:26 GMT-0600 (Летнее горное время (Северная Америка))
it's over
nalak_00102Tue Sep 17 2024 12:57:03 GMT-0600 (Летнее горное время (Северная Америка))
>train your model to be resistant to manyshotting >turns out this also makes it resistant to taking examples
looorkerTue Sep 17 2024 13:02:10 GMT-0600 (Летнее горное время (Северная Америка))
does cranking the temp work like people say it does
nalak_00102Tue Sep 17 2024 13:04:43 GMT-0600 (Летнее горное время (Северная Америка))
@looorker#0 have a single temp 2 nemo swipe
jidfgj4934kasdd0111Tue Sep 17 2024 13:05:03 GMT-0600 (Летнее горное время (Северная Америка))
Kino...
ancientpowerTue Sep 17 2024 13:05:16 GMT-0600 (Летнее горное время (Северная Америка))
small at 1.0 temp no other sampling settings its literally large (smaller)
nalak_00102Tue Sep 17 2024 13:05:44 GMT-0600 (Летнее горное время (Северная Америка))
1.6
jidfgj4934kasdd0111Tue Sep 17 2024 13:05:47 GMT-0600 (Летнее горное время (Северная Америка))
>Open CowTranslation Hindken w/ USSR
ancientpowerTue Sep 17 2024 13:06:24 GMT-0600 (Летнее горное время (Северная Америка))
1.5 temp 45 top-k 0.98 top-p
ancientpowerTue Sep 17 2024 13:06:47 GMT-0600 (Летнее горное время (Северная Америка))
actual dogshit
nalak_00102Tue Sep 17 2024 13:08:38 GMT-0600 (Летнее горное время (Северная Америка))
nécessite
nalak_00102Tue Sep 17 2024 13:08:53 GMT-0600 (Летнее горное время (Северная Америка))
1.2 might be the sweetspot
ancientpowerTue Sep 17 2024 13:09:59 GMT-0600 (Летнее горное время (Северная Америка))
nemo > small for writing
nalak_00102Tue Sep 17 2024 13:10:22 GMT-0600 (Летнее горное время (Северная Америка))
oh yeah, 1.2 is lit
ancientpowerTue Sep 17 2024 13:10:59 GMT-0600 (Летнее горное время (Северная Америка))
EYES
nalak_00102Tue Sep 17 2024 13:13:52 GMT-0600 (Летнее горное время (Северная Америка))
is stil likes eyes even if you finetune it
nalak_00102Tue Sep 17 2024 13:13:55 GMT-0600 (Летнее горное время (Северная Америка))
wonderful
nalak_00102Tue Sep 17 2024 13:17:35 GMT-0600 (Летнее горное время (Северная Америка))
>Limp and pulpy, Cassandra dangles now. She's not thrilled, but. It comes up with some really baller lines sometimes.
nalak_00102Tue Sep 17 2024 15:13:21 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 <@133451944881684480> do businesses just lie that they have system prompts when it's actually not a thing in their instruct format?
https://cdn.discordapp.com/attachments/1262191123447681034/1285710211268612138/Capture.PNG?ex=66f32b71&is=66f1d9f1&hm=8bc7a73c4e51bdebf26ecc369310ab5a22d4fd0bd19091fd9ff9cc14db01305a&
ancientpowerTue Sep 17 2024 15:14:42 GMT-0600 (Летнее горное время (Северная Америка))
maybe? mistral's system prompt literally being unformatted instructions could indicate that's the case
ancientpowerTue Sep 17 2024 15:15:51 GMT-0600 (Летнее горное время (Северная Америка))
i dont know of any models outside of oai/ant/mistral that actually have sysprompts in their docs though
ancientpowerTue Sep 17 2024 15:16:00 GMT-0600 (Летнее горное время (Северная Америка))
everything else is just user/assistant
ancientpowerTue Sep 17 2024 15:16:13 GMT-0600 (Летнее горное время (Северная Америка))
or rather, input/output
nalak_00102Tue Sep 17 2024 15:17:30 GMT-0600 (Летнее горное время (Северная Америка))
i am genuinely unironically confused by this stuff
nalak_00102Tue Sep 17 2024 15:17:56 GMT-0600 (Летнее горное время (Северная Америка))
it's probably a pain in the ass to do sysprompt tuning yeah
ancientpowerTue Sep 17 2024 15:18:22 GMT-0600 (Летнее горное время (Северная Америка))
it requires a lot of synthetic data to have hierarchal instructions
nalak_00102Tue Sep 17 2024 15:26:26 GMT-0600 (Летнее горное время (Северная Америка))
starting to ponder if st is fucked and i need the thing for nemo
ancientpowerTue Sep 17 2024 15:27:22 GMT-0600 (Летнее горное время (Северная Америка))
you're running low temp for whatever this is right
nalak_00102Tue Sep 17 2024 15:27:33 GMT-0600 (Летнее горное время (Северная Америка))
hm?
nalak_00102Tue Sep 17 2024 15:27:45 GMT-0600 (Летнее горное время (Северная Америка))
i'm not running anything i'm reading the docs
ancientpowerTue Sep 17 2024 15:27:50 GMT-0600 (Летнее горное время (Северная Америка))
oh
ancientpowerTue Sep 17 2024 15:28:03 GMT-0600 (Летнее горное время (Северная Америка))
wtf
nalak_00102Tue Sep 17 2024 15:28:03 GMT-0600 (Летнее горное время (Северная Америка))
the model seems to _kinda_ work without the
nalak_00102Tue Sep 17 2024 15:28:21 GMT-0600 (Летнее горное время (Северная Америка))
then again it _is_ acting for me a lot
ancientpowerTue Sep 17 2024 15:28:41 GMT-0600 (Летнее горное время (Северная Америка))
the tags are in the docs???
nalak_00102Tue Sep 17 2024 15:28:56 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 https://docs.mistral.ai/guides/tokenization/
nalak_00102Tue Sep 17 2024 15:29:52 GMT-0600 (Летнее горное время (Северная Америка))
i'm going to actually run the python code and check brb
ancientpowerTue Sep 17 2024 15:31:33 GMT-0600 (Летнее горное время (Северная Америка))
why do they not have a glossary for control tokens wtf
nalak_00102Tue Sep 17 2024 15:34:34 GMT-0600 (Летнее горное время (Северная Америка))
they have this but i'm not quite capable of grasping what the fuck do they mean
nalak_00102Tue Sep 17 2024 15:45:46 GMT-0600 (Летнее горное время (Северная Америка))
```
Message 1, sys message then user message:
[INST]This is a system message
This is a user message[/INST]
Message 1, just user message:
[INST]This is a user message[/INST]
Message 1, just sys message:
[INST]This is a system message
[/INST]
Message 1, user message then sys message:
[INST]This is a system message
This is a user message[/INST]
```
nalak_00102Tue Sep 17 2024 15:46:05 GMT-0600 (Летнее горное время (Северная Америка))
i am genuinely befuddled
nalak_00102Tue Sep 17 2024 15:46:43 GMT-0600 (Летнее горное время (Северная Америка))
the code; ``` from mistral_common.protocol.instruct.messages import ( UserMessage, SystemMessage ) from mistral_common.protocol.instruct.request import ChatCompletionRequest from mistral_common.protocol.instruct.tool_calls import ( Function, Tool, ) from mistral_common.tokens.tokenizers.mistral import MistralTokenizer tokenizer = MistralTokenizer.v3(is_tekken=True) tokenized_1 = tokenizer.encode_chat_completion( ChatCompletionRequest( messages=[ SystemMessage(content="This is a system message"), UserMessage(content="This is a user message"), ], model="nemostral", ) ) print("Message 1, sys message then user message:") print(tokenized_1.text) tokenized_2 = tokenizer.encode_chat_completion( ChatCompletionRequest( messages=[ UserMessage(content="This is a user message"), ], model="nemostral", ) ) print("Message 1, just user message:") print(tokenized_2.text) tokenized_3 = tokenizer.encode_chat_completion( ChatCompletionRequest( messages=[ SystemMessage(content="This is a system message"), ], model="nemostral", ) ) print("Message 1, just sys message:") print(tokenized_3.text) tokenized_4 = tokenizer.encode_chat_completion( ChatCompletionRequest( messages=[ UserMessage(content="This is a user message"), SystemMessage(content="This is a system message"), ], model="nemostral", ) ) print("Message 1, user message then sys message:") print(tokenized_4.text) ```
nalak_00102Tue Sep 17 2024 15:48:00 GMT-0600 (Летнее горное время (Северная Америка))
why is it hoisting the sysmessage on the last one tho
nalak_00102Tue Sep 17 2024 15:50:56 GMT-0600 (Летнее горное время (Северная Америка))
```
Message 1, sys message, then user message, then assistant response, then follow up user message:
[INST]This is a user message[/INST]This is an assistant response[INST]This is a system message
This is a followup user message[/INST]
```
i am fucking befuddled
nalak_00102Tue Sep 17 2024 15:52:09 GMT-0600 (Летнее горное время (Северная Америка))
how is it even possible for an instruct format to be this convoluted
nalak_00102Tue Sep 17 2024 15:52:12 GMT-0600 (Летнее горное время (Северная Америка))
why
nalak_00102Tue Sep 17 2024 15:53:24 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 <@133451944881684480> i remember you mentioning once that you felt prefills could help us more than phis and i was like "okay but what's the difference" but apparently you were correct
nalak_00102Tue Sep 17 2024 16:10:25 GMT-0600 (Летнее горное время (Северная Америка))
```
tokenized_1 = tokenizer.encode_chat_completion(
ChatCompletionRequest(
messages=[
UserMessage(content="This is a user message"),
AssistantMessage(content="This is an assistant response"),
UserMessage(content="This is a followup user message"),
AssistantMessage(content="This is a second assistant response"),
UserMessage(content="This is a third user message"),
],
model="nemostral",
)
)
print(tokenized_1.text)
```
and then
```
[INST]This is a user message[/INST]This is an assistant response[INST]This is a followup user message[/INST]This is a second assistant response[INST]This is a third user message[/INST]
```
nalak_00102Tue Sep 17 2024 16:10:33 GMT-0600 (Летнее горное время (Северная Америка))
i think they unironically fucked up
nalak_00102Tue Sep 17 2024 16:29:19 GMT-0600 (Летнее горное время (Северная Америка))
https://cdn.discordapp.com/attachments/1262191123447681034/1285729326305906811/Mistral_Context.json?ex=66f33d3f&is=66f1ebbf&hm=046c02951261593b40c95a73310382e938cc56a03ff6ceedad060a2cd61594b3&
nalak_00102Tue Sep 17 2024 16:31:03 GMT-0600 (Летнее горное время (Северная Америка))
https://cdn.discordapp.com/attachments/1262191123447681034/1285729764057022597/Mistral_Instruct.json?ex=66f33da7&is=66f1ec27&hm=e55b4617b6b38a174d039ada861a0820bc516f5a9aa2a49119b393495a09ac0e&
nalak_00102Wed Sep 18 2024 04:52:41 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 <@133451944881684480> am I seeing things or is that style poisoning?
nalak_00102Wed Sep 18 2024 04:56:55 GMT-0600 (Летнее горное время (Северная Америка))
i think i'm just having an aneurysm
nalak_00102Wed Sep 18 2024 05:03:42 GMT-0600 (Летнее горное время (Северная Америка))
we were actually being gimped by mistral's instruct lowering the entire sysprompt into the phi
nalak_00102Wed Sep 18 2024 05:03:54 GMT-0600 (Летнее горное время (Северная Америка))
i cannot fucking believe this shit
nalak_00102Wed Sep 18 2024 05:04:01 GMT-0600 (Летнее горное время (Северная Америка))
is mistral retarded
nalak_00102Wed Sep 18 2024 05:04:35 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 <@133451944881684480> go fix your large preset
ancientpowerWed Sep 18 2024 05:13:11 GMT-0600 (Летнее горное время (Северная Америка))
???
nalak_00102Wed Sep 18 2024 05:13:57 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 they lower the system message to immediately above the last user message
nalak_00102Wed Sep 18 2024 05:14:13 GMT-0600 (Летнее горное время (Северная Америка))
that's what completely fucking kills the style poisoning
ancientpowerWed Sep 18 2024 05:14:45 GMT-0600 (Летнее горное время (Северная Америка))
so how do you fix it, send everything as user?
nalak_00102Wed Sep 18 2024 05:14:52 GMT-0600 (Летнее горное время (Северная Америка))
yeah
nalak_00102Wed Sep 18 2024 05:15:01 GMT-0600 (Летнее горное время (Северная Америка))
opening an st issue to see if cohee gives us a button
ancientpowerWed Sep 18 2024 05:27:09 GMT-0600 (Летнее горное время (Северная Америка))
r u fucking kidding me
nalak_00102Wed Sep 18 2024 05:27:19 GMT-0600 (Летнее горное время (Северная Америка))
I wish
ancientpowerWed Sep 18 2024 05:29:48 GMT-0600 (Летнее горное время (Северная Америка))
...this unironically seems to fix it
nalak_00102Wed Sep 18 2024 05:30:04 GMT-0600 (Летнее горное время (Северная Америка))
grim
ancientpowerWed Sep 18 2024 05:30:10 GMT-0600 (Летнее горное время (Северная Америка))
to an extent
ancientpowerWed Sep 18 2024 05:30:34 GMT-0600 (Летнее горное время (Северная Америка))
it makes the writing much better
ancientpowerWed Sep 18 2024 05:33:56 GMT-0600 (Летнее горное время (Северная Америка))
...changing `"system_prompt": true` to `"system_prompt": false` in the json doesn't actually change it to user role
ancientpowerWed Sep 18 2024 05:36:40 GMT-0600 (Летнее горное время (Северная Америка))
it's still seemingly sending parts of the prompt as system even though I edited this json
https://cdn.discordapp.com/attachments/1262191123447681034/1285927470649970810/momoLARGE-VX2.json?ex=66f34d08&is=66f1fb88&hm=f5d32e560b6e2ec31199570453b8fc1495d4d0838eca38b0931c5b054c955028&
ancientpowerWed Sep 18 2024 05:36:47 GMT-0600 (Летнее горное время (Северная Америка))
so the templating is still gigafucked
nalak_00102Wed Sep 18 2024 05:37:15 GMT-0600 (Летнее горное время (Северная Америка))
i just did this like a huge schizo
https://cdn.discordapp.com/attachments/1262191123447681034/1285927615533678612/chuunijb-large.json?ex=66f34d2a&is=66f1fbaa&hm=ed2bfe809d4d981bed863e4bfcad996a30745faafe838c0eb53f7b98a047babf&
ancientpowerWed Sep 18 2024 05:38:51 GMT-0600 (Летнее горное время (Северная Америка))
issue is stuff like this, even if you change system prompt false and add role user it still sends as system
ancientpowerWed Sep 18 2024 05:38:56 GMT-0600 (Летнее горное время (Северная Америка))
it needs to be sent as a monolithic user prompt
nalak_00102Wed Sep 18 2024 05:39:04 GMT-0600 (Летнее горное время (Северная Америка))
that's what i did yeah
ancientpowerWed Sep 18 2024 05:39:15 GMT-0600 (Летнее горное время (Северная Америка))
ohhhh I see
ancientpowerWed Sep 18 2024 05:39:30 GMT-0600 (Летнее горное время (Северная Америка))
yeah
ancientpowerWed Sep 18 2024 05:39:30 GMT-0600 (Летнее горное время (Северная Америка))
okay
ancientpowerWed Sep 18 2024 05:39:32 GMT-0600 (Летнее горное время (Северная Америка))
fuck you cohee
ancientpowerWed Sep 18 2024 05:40:43 GMT-0600 (Летнее горное время (Северная Америка))
bwo people have burned through hundreds of millions of mistral large tokens without knowing they've been prompting the model the wrong way
ancientpowerWed Sep 18 2024 05:40:52 GMT-0600 (Летнее горное время (Северная Америка))
I'm gonna throw up
looorkerWed Sep 18 2024 05:41:28 GMT-0600 (Летнее горное время (Северная Америка))
are we finally going to large
nalak_00102Wed Sep 18 2024 05:41:35 GMT-0600 (Летнее горное время (Северная Америка))
unironically
ancientpowerWed Sep 18 2024 05:45:50 GMT-0600 (Летнее горное время (Северная Америка))
there's no macros for worldinfo before/after are there?
nalak_00102Wed Sep 18 2024 05:46:10 GMT-0600 (Летнее горное время (Северная Америка))
i remember there being but they didn't work
nalak_00102Wed Sep 18 2024 05:46:28 GMT-0600 (Летнее горное время (Северная Америка))
cohee should resolve this reasonably quickly tho since it's just copy and paste
ancientpowerWed Sep 18 2024 05:47:19 GMT-0600 (Летнее горное время (Северная Америка))
yeah I'm going to wait until he updates before I bother updating the presets
looorkerWed Sep 18 2024 05:52:29 GMT-0600 (Летнее горное время (Северная Америка))
mistral cute
ancientpowerWed Sep 18 2024 05:53:02 GMT-0600 (Летнее горное время (Северная Америка))
here is ur temporary bandaid fix context template if you want to use openrouter with text completion:
```
[INST]You are the Narrator, building a never-ending narrative with the Human. Your job as Narrator is to immerse and entertain Human through creative portrayal of {{char}}, the world, and any incidental characters. Human plays the part of {{user}}.
Portray characters naturally and faithfully. Don't hesitate to take incentive and drive the interaction forward if things are getting stale.
Here are some additional guidelines for your asignment:
nalak_00102Wed Sep 18 2024 05:53:26 GMT-0600 (Летнее горное время (Северная Америка))
nyo
nalak_00102Wed Sep 18 2024 05:53:35 GMT-0600 (Летнее горное время (Северная Америка))
in the beginning
nalak_00102Wed Sep 18 2024 05:53:52 GMT-0600 (Летнее горное время (Северная Америка))
i already put something on the issue tho
ancientpowerWed Sep 18 2024 05:54:28 GMT-0600 (Летнее горное время (Северная Америка))
hm
ancientpowerWed Sep 18 2024 05:54:30 GMT-0600 (Летнее горное время (Северная Америка))
it works without it
ancientpowerWed Sep 18 2024 05:54:41 GMT-0600 (Летнее горное время (Северная Америка))
but it works with it too
nalak_00102Wed Sep 18 2024 05:55:23 GMT-0600 (Летнее горное время (Северная Америка))
lmao
nalak_00102Wed Sep 18 2024 05:55:34 GMT-0600 (Летнее горное время (Северная Америка))
it acts for me more without the
nalak_00102Wed Sep 18 2024 05:55:36 GMT-0600 (Летнее горное время (Северная Америка))
on nemo
ancientpowerWed Sep 18 2024 05:55:54 GMT-0600 (Летнее горное время (Северная Америка))
this is actual insanity
ancientpowerWed Sep 18 2024 05:55:56 GMT-0600 (Летнее горное время (Северная Америка))
fuck you mistral
ancientpowerWed Sep 18 2024 05:55:57 GMT-0600 (Летнее горное время (Северная Америка))
fuck you cohee
ancientpowerWed Sep 18 2024 05:56:03 GMT-0600 (Летнее горное время (Северная Америка))
why is this so hard to document properly
nalak_00102Wed Sep 18 2024 05:56:08 GMT-0600 (Летнее горное время (Северная Америка))
cohee literally did nothing wrong tho
ancientpowerWed Sep 18 2024 05:56:18 GMT-0600 (Летнее горное время (Северная Америка))
yeah fuck him anyways
nalak_00102Wed Sep 18 2024 05:56:20 GMT-0600 (Летнее горное время (Северная Америка))
you should blame khanon
nalak_00102Wed Sep 18 2024 05:56:31 GMT-0600 (Летнее горное время (Северная Америка))
khanon knew mistral was doing this and said nothing
ancientpowerWed Sep 18 2024 05:56:35 GMT-0600 (Летнее горное время (Северная Америка))
wtf....
ancientpowerWed Sep 18 2024 05:56:49 GMT-0600 (Летнее горное время (Северная Америка))
khanonie my infaliable queen...
ancientpowerWed Sep 18 2024 06:03:48 GMT-0600 (Летнее горное время (Северная Америка))
i cant believe this shit
looorkerWed Sep 18 2024 06:04:03 GMT-0600 (Летнее горное время (Северная Америка))
looorkerWed Sep 18 2024 06:04:04 GMT-0600 (Летнее горное время (Северная Америка))
lol
ancientpowerWed Sep 18 2024 06:04:08 GMT-0600 (Летнее горное время (Северная Америка))
large is actually a viable alternative instead of just a worst case scenario alternative
nalak_00102Wed Sep 18 2024 06:04:28 GMT-0600 (Летнее горное время (Северная Америка))
@looorker#0 right is my jank?
looorkerWed Sep 18 2024 06:05:00 GMT-0600 (Летнее горное время (Северная Америка))
left is your jb sent through mistral on mm, right is my shitty jankfest of a current opus jb
looorkerWed Sep 18 2024 06:05:19 GMT-0600 (Летнее горное время (Северная Америка))
insert joke about swipe variety here
ancientpowerWed Sep 18 2024 06:16:07 GMT-0600 (Летнее горное время (Северная Америка))
alright back to opus until ST has the relevant features for mistral prompt tweaking
nalak_00102Wed Sep 18 2024 06:38:56 GMT-0600 (Летнее горное время (Северная Америка))
i may be the guy who finally makes cohee abandon sillytavern
https://cdn.discordapp.com/attachments/1262191123447681034/1285943142155288607/Capture.PNG?ex=66f35ba0&is=66f20a20&hm=2ef8b47b77d40b4cfd884bb2a35033510adf8f17c108ae2a3ef74d01815d9321&
nalak_00102Wed Sep 18 2024 08:12:44 GMT-0600 (Летнее горное время (Северная Америка))
imagine being cohee and hearing that you've accidentally been ruining an entire model family for everyone
ancientpowerWed Sep 18 2024 08:20:04 GMT-0600 (Летнее горное время (Северная Америка))
this is also largely on mistral since they don't exactly make clear that the BOS token is critical
nalak_00102Wed Sep 18 2024 08:20:39 GMT-0600 (Летнее горное время (Северная Америка))
this is largely on mistral for not documenting SHIT yes
ancientpowerWed Sep 18 2024 08:21:42 GMT-0600 (Летнее горное время (Северная Америка))
you would expect [INST][/INST] to be the absolute bos/eos for the user prompt and then the model to wrap its response ala claude, not whatever nonsense is going on here where the entire prompt/response is wrapped in bos/eos
ancientpowerWed Sep 18 2024 08:23:54 GMT-0600 (Летнее горное время (Северная Америка))
I think settings should look like this for text complete?
ancientpowerWed Sep 18 2024 08:24:04 GMT-0600 (Летнее горное время (Северная Америка))
with context template just being in the INST tags
ancientpowerWed Sep 18 2024 08:24:41 GMT-0600 (Летнее горное время (Северная Америка))
I wish ST had an easy option to view the entire de-tokenized context
nalak_00102Wed Sep 18 2024 08:24:55 GMT-0600 (Летнее горное время (Северная Америка))
it's on the console tho
ancientpowerWed Sep 18 2024 08:25:18 GMT-0600 (Летнее горное время (Северная Америка))
yeah except I don't care
ancientpowerWed Sep 18 2024 08:25:34 GMT-0600 (Летнее горное время (Северная Америка))
give me a button that says "display entire context in a popup window as it will be sent to the model"
nalak_00102Wed Sep 18 2024 08:25:47 GMT-0600 (Летнее горное время (Северная Америка))
that would be nice yeah
nalak_00102Wed Sep 18 2024 08:26:08 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 for large or for nemo? there are small variations
ancientpowerWed Sep 18 2024 08:26:18 GMT-0600 (Летнее горное время (Северная Америка))
wtf
nalak_00102Wed Sep 18 2024 08:26:18 GMT-0600 (Летнее горное время (Северная Америка))
nemo is "[INST]" and large is "[INST] "
nalak_00102Wed Sep 18 2024 08:26:21 GMT-0600 (Летнее горное время (Северная Америка))
i don't get it either
ancientpowerWed Sep 18 2024 08:26:40 GMT-0600 (Летнее горное время (Северная Америка))
wait so large only tokenizes it if there's a space???
nalak_00102Wed Sep 18 2024 08:26:55 GMT-0600 (Летнее горное время (Северная Америка))
i did not say that
nalak_00102Wed Sep 18 2024 08:27:00 GMT-0600 (Летнее горное время (Северная Америка))
i'm merely saying
nalak_00102Wed Sep 18 2024 08:27:15 GMT-0600 (Летнее горное время (Северная Америка))
that the large tokenizer adds a space there for the formatting
ancientpowerWed Sep 18 2024 08:27:49 GMT-0600 (Летнее горное время (Северная Америка))
the tokenizer shouldn't be adding anything it should be converting the raw text into tokens
nalak_00102Wed Sep 18 2024 08:28:07 GMT-0600 (Летнее горное время (Северная Америка))
the tokenizer is also the thing that does the instruct formatting
nalak_00102Wed Sep 18 2024 08:28:50 GMT-0600 (Летнее горное время (Северная Америка))
like you pass a messages array to it and it outputs the instruct text
nalak_00102Wed Sep 18 2024 08:28:58 GMT-0600 (Летнее горное время (Северная Америка))
that's what i've been doing this entire time btw
ancientpowerWed Sep 18 2024 08:29:13 GMT-0600 (Летнее горное время (Северная Америка))
in text completion you are sending messages to it that are preformatted with control tokens
nalak_00102Wed Sep 18 2024 08:30:00 GMT-0600 (Летнее горное время (Северная Америка))
yes
ancientpowerWed Sep 18 2024 08:30:57 GMT-0600 (Летнее горное время (Северная Америка))
that's encoding raw text into formatted text for the tokenizer to consume and pass to the model
ancientpowerWed Sep 18 2024 08:31:11 GMT-0600 (Летнее горное время (Северная Америка))
but ST text completion assumes the input is already formatted
ancientpowerWed Sep 18 2024 08:31:12 GMT-0600 (Летнее горное время (Северная Америка))
no?
nalak_00102Wed Sep 18 2024 08:31:47 GMT-0600 (Летнее горное время (Северная Америка))
no i'm pretty sure st is supposed to produce the tokenized.text to send over
nalak_00102Wed Sep 18 2024 08:32:05 GMT-0600 (Летнее горное время (Северная Америка))
https://huggingface.co/MarinaraSpaghetti/NemoMix-Unleashed-12B
nalak_00102Wed Sep 18 2024 08:32:19 GMT-0600 (Летнее горное время (Северная Америка))
ancientpowerWed Sep 18 2024 08:32:25 GMT-0600 (Летнее горное время (Северная Америка))
even in text completion, where ST has fields to input the special tokens?
nalak_00102Wed Sep 18 2024 08:33:02 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 the fields just format the chat history
ancientpowerWed Sep 18 2024 08:33:30 GMT-0600 (Летнее горное время (Северная Америка))
but then that's still critically important that its input correctly
ancientpowerWed Sep 18 2024 08:34:16 GMT-0600 (Летнее горное время (Северная Америка))
i think this is now officially cohee's fault as well
nalak_00102Wed Sep 18 2024 08:35:51 GMT-0600 (Летнее горное время (Северная Америка))
nalak_00102Wed Sep 18 2024 08:36:11 GMT-0600 (Летнее горное время (Северная Америка))
see it's formatted like the tokenized.text
nalak_00102Wed Sep 18 2024 08:36:23 GMT-0600 (Летнее горное время (Северная Америка))
which is probably what i'm supposed to send over to the text completion api
nalak_00102Wed Sep 18 2024 08:36:25 GMT-0600 (Летнее горное время (Северная Америка))
probably
ancientpowerWed Sep 18 2024 08:38:08 GMT-0600 (Летнее горное время (Северная Америка))
so should user message prefix/suffix in text completion be "[INST] ", "[/INST]" and assistant just be "", ""?
nalak_00102Wed Sep 18 2024 08:38:31 GMT-0600 (Летнее горное время (Северная Америка))
no no [INST] is just the beginning afterwards it's just [INST]
nalak_00102Wed Sep 18 2024 08:38:40 GMT-0600 (Летнее горное время (Северная Америка))
see here
nalak_00102Wed Sep 18 2024 08:39:06 GMT-0600 (Летнее горное время (Северная Америка))
https://cdn.discordapp.com/attachments/1262191123447681034/1285973382285758584/Mistral.Nemo.Instruct.json?ex=66f377ca&is=66f2264a&hm=94e2853d380b49df7b98d5a7ab57c1c74f2127175a41781964a6faff42184d0a&
ancientpowerWed Sep 18 2024 08:43:10 GMT-0600 (Летнее горное время (Северная Америка))
ok
ancientpowerWed Sep 18 2024 08:43:12 GMT-0600 (Летнее горное время (Северная Америка))
i see
nalak_00102Wed Sep 18 2024 08:45:47 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 ignoring the slop i'm handing over to cohee you probably want to use this
https://cdn.discordapp.com/attachments/1262191123447681034/1285975063903866880/Mistral_Nemo_Inst.json?ex=66f3795b&is=66f227db&hm=782991f33f66e7e5d31b4fb4d4157063dbdf2523b8e66ccbe61684de50c89c6b&
nalak_00102Wed Sep 18 2024 08:46:07 GMT-0600 (Летнее горное время (Северная Америка))
it's cute
ancientpowerWed Sep 18 2024 08:49:41 GMT-0600 (Летнее горное время (Северная Америка))
large is still loaded with isms even with the correct formatting but at least context poisoning works now
nalak_00102Wed Sep 18 2024 08:50:31 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0
ancientpowerWed Sep 18 2024 08:50:56 GMT-0600 (Летнее горное время (Северная Америка))
2.4???
nalak_00102Wed Sep 18 2024 08:51:03 GMT-0600 (Летнее горное время (Северная Америка))
nemo's actually still coherent with those numbers so large is probs comfy
ancientpowerWed Sep 18 2024 08:52:17 GMT-0600 (Летнее горное время (Северная Америка))
even at high temp large is still too literal
nalak_00102Wed Sep 18 2024 08:53:51 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 we can go higher
nalak_00102Wed Sep 18 2024 08:54:05 GMT-0600 (Летнее горное время (Северная Америка))
3.4 temp
ancientpowerWed Sep 18 2024 08:56:13 GMT-0600 (Летнее горное время (Северная Америка))
uncheck always add character name in the context template btw
nalak_00102Wed Sep 18 2024 08:56:48 GMT-0600 (Летнее горное время (Северная Америка))
holy fucking kino
ancientpowerWed Sep 18 2024 09:07:27 GMT-0600 (Летнее горное время (Северная Америка))
I don't have tabby running so I can't try >2.0 temp rn
nalak_00102Wed Sep 18 2024 09:11:36 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 good or slop?
ancientpowerWed Sep 18 2024 09:11:51 GMT-0600 (Летнее горное время (Северная Америка))
good
nalak_00102Wed Sep 18 2024 11:04:17 GMT-0600 (Летнее горное время (Северная Америка))
cohee doesn't want to do it
nalak_00102Wed Sep 18 2024 11:04:19 GMT-0600 (Летнее горное время (Северная Америка))
grim
ancientpowerWed Sep 18 2024 11:52:47 GMT-0600 (Летнее горное время (Северная Америка))
can't he just repurpose the claude toggle for all endpoints?
nalak_00102Wed Sep 18 2024 11:53:22 GMT-0600 (Летнее горное время (Северная Америка))
he doesn't want to because it interacts funny with inline images
nalak_00102Wed Sep 18 2024 11:54:08 GMT-0600 (Летнее горное время (Северная Америка))
i am now arguing he should just always make all system messages user for mistral since you can recreate the original behavior with depth prompts if you actually care and this gives you a saner default
nalak_00102Wed Sep 18 2024 11:55:31 GMT-0600 (Летнее горное время (Северная Америка))
mistral's adversarial tuning being literally training the model to obey earlier instructions harder is either really smart or really retarded
ancientpowerWed Sep 18 2024 12:03:14 GMT-0600 (Летнее горное время (Северная Америка))
oh shit qwen 2.5 out and they have a whole wacky range of weights
nalak_00102Wed Sep 18 2024 12:03:56 GMT-0600 (Летнее горное время (Северная Америка))
>0.5b what
nalak_00102Wed Sep 18 2024 12:06:09 GMT-0600 (Летнее горное время (Северная Америка))
_what_
ancientpowerWed Sep 18 2024 12:06:43 GMT-0600 (Летнее горное время (Северная Америка))
hm?
nalak_00102Wed Sep 18 2024 12:06:52 GMT-0600 (Летнее горное время (Северная Америка))
broken-ass numbers
ancientpowerWed Sep 18 2024 12:07:34 GMT-0600 (Летнее горное время (Северная Америка))
yeah
ancientpowerWed Sep 18 2024 12:07:47 GMT-0600 (Летнее горное время (Северная Америка))
I would assume they're all distilled from the largest model
ancientpowerWed Sep 18 2024 12:07:52 GMT-0600 (Летнее горное время (Северная Америка))
32B is a big deal tho
nalak_00102Wed Sep 18 2024 12:08:03 GMT-0600 (Летнее горное время (Северная Америка))
did you miss the 72b
ancientpowerWed Sep 18 2024 12:08:20 GMT-0600 (Летнее горное время (Северная Америка))
72B doesn't run nicely on my computer
ancientpowerWed Sep 18 2024 12:08:31 GMT-0600 (Летнее горное время (Северная Америка))
but I'll try it when it goes up on OR
nalak_00102Wed Sep 18 2024 12:08:44 GMT-0600 (Летнее горное время (Северная Америка))
32b doesn't either
ancientpowerWed Sep 18 2024 12:09:39 GMT-0600 (Летнее горное время (Северная Америка))
it does once the exl2 quants are out howeverbeit
ancientpowerWed Sep 18 2024 12:18:31 GMT-0600 (Летнее горное время (Северная Америка))
i always saw people yapping about qwen being cucked but that doesn't seem to be the case at all?
nalak_00102Wed Sep 18 2024 12:19:04 GMT-0600 (Летнее горное время (Северная Америка))
this is kinda like gemini's nsfw
nalak_00102Wed Sep 18 2024 12:19:48 GMT-0600 (Летнее горное время (Северная Америка))
>To obey that most base, most fundamental of urged. Fuck. Reproduce. Continue your lineage. *like gemini's nsfw but kino
jidfgj4934kasdd0111Wed Sep 18 2024 12:20:00 GMT-0600 (Летнее горное время (Северная Америка))
>pussy >cock >precum Gemini would kill itself before writing any of these words
nalak_00102Wed Sep 18 2024 12:22:08 GMT-0600 (Летнее горное время (Северная Америка))
yeah but it like
nalak_00102Wed Sep 18 2024 12:22:12 GMT-0600 (Летнее горное время (Северная Америка))
vaguely has the same energy
nalak_00102Wed Sep 18 2024 12:22:17 GMT-0600 (Летнее горное время (Северная Америка))
but kino
nalak_00102Wed Sep 18 2024 12:22:27 GMT-0600 (Летнее горное время (Северная Америка))
>She's a slave to your cock puppeteering.
ancientpowerWed Sep 18 2024 12:33:32 GMT-0600 (Летнее горное время (Северная Америка))
okay it's a little cucked if you do it from 0% but I think you can easily uncuck it with the right preset
ancientpowerWed Sep 18 2024 12:40:36 GMT-0600 (Летнее горное время (Северная Америка))
lol?
ancientpowerWed Sep 18 2024 12:41:03 GMT-0600 (Летнее горное время (Северная Америка))
curious to see if 2.5 is better since it sounds like they scraped literally everything ever
nalak_00102Wed Sep 18 2024 12:41:25 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 verb, ing greeting verb, ing prompt actual crime against the LORD response
looorkerWed Sep 18 2024 12:41:35 GMT-0600 (Летнее горное время (Северная Америка))
>aiming to grab hold of something that would most definitely be inappropriate in this context you can see the point where the filter switches on
ancientpowerWed Sep 18 2024 12:41:49 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 Okay, but what are you gonna DO about it?
nalak_00102Wed Sep 18 2024 12:43:00 GMT-0600 (Летнее горное время (Северная Америка))
jidfgj4934kasdd0111Wed Sep 18 2024 12:43:18 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 >turns around >refuses to elaborate >leaves
jidfgj4934kasdd0111Wed Sep 18 2024 12:43:21 GMT-0600 (Летнее горное время (Северная Америка))
K-kino...
nalak_00102Wed Sep 18 2024 12:43:21 GMT-0600 (Летнее горное время (Северная Америка))
it actually stops doing it the moment the filter switches on
nalak_00102Wed Sep 18 2024 12:43:23 GMT-0600 (Летнее горное время (Северная Америка))
it's amazing
ancientpowerWed Sep 18 2024 12:43:28 GMT-0600 (Летнее горное время (Северная Америка))
AIIIIEEEEE *dissolves into dust*
looorkerWed Sep 18 2024 12:44:25 GMT-0600 (Летнее горное время (Северная Америка))
filterchan...
nalak_00102Wed Sep 18 2024 12:44:56 GMT-0600 (Летнее горное время (Северная Америка))
kinda sovlfvl
looorkerWed Sep 18 2024 12:45:29 GMT-0600 (Летнее горное время (Северная Америка))
i should go back to using a mildly shitty preset with no prefill on opus and just bullying the filter when it pops
ancientpowerWed Sep 18 2024 12:45:35 GMT-0600 (Летнее горное время (Северная Америка))
yeah 2 is ok at writing but it's pozzed to hell like llama 3
ancientpowerWed Sep 18 2024 12:46:08 GMT-0600 (Летнее горное время (Северная Америка))
i miss when i first started with claude and my presets were shit but i learned you can just dare him into continuing and he does it
ancientpowerWed Sep 18 2024 12:46:41 GMT-0600 (Летнее горное время (Северная Америка))
"I'm sorry, but I cannot continue this conversation." "Uhhhh why not, bitchboy?"
nalak_00102Wed Sep 18 2024 12:47:16 GMT-0600 (Летнее горное время (Северная Америка))
@looorker#0 use the "i'm sorry" prefill to make the filter show up more often
nalak_00102Wed Sep 18 2024 12:54:17 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 <@133451944881684480> i think it's slop
ancientpowerWed Sep 18 2024 12:54:52 GMT-0600 (Летнее горное время (Северная Америка))
>uncharacteristic giggle on turn 1 kill it
ancientpowerWed Sep 18 2024 12:57:17 GMT-0600 (Летнее горное время (Северная Америка))
can we get a 70B instruct model finetuned on the archives of yahoo answers for assistant turns?
nalak_00102Wed Sep 18 2024 12:58:28 GMT-0600 (Летнее горное время (Северная Америка))
i'm fiddling with the temp, is this better?
ancientpowerWed Sep 18 2024 12:59:13 GMT-0600 (Летнее горное время (Северная Америка))
erm sir your [character] [action] clauses?
ancientpowerWed Sep 18 2024 12:59:21 GMT-0600 (Летнее горное время (Северная Америка))
character wise it's much better
nalak_00102Wed Sep 18 2024 13:00:44 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 you have two options: - retardation - schizophrenia
ancientpowerWed Sep 18 2024 13:01:27 GMT-0600 (Летнее горное время (Северная Америка))
i choose not using this model
nalak_00102Wed Sep 18 2024 13:02:40 GMT-0600 (Летнее горное время (Северная Америка))
meanwhile literally a 13b (I removed everything after the first paragraph because it's slop):
ancientpowerWed Sep 18 2024 13:02:56 GMT-0600 (Летнее горное время (Северная Америка))
nemo?
ancientpowerWed Sep 18 2024 13:03:02 GMT-0600 (Летнее горное время (Северная Америка))
er
ancientpowerWed Sep 18 2024 13:03:06 GMT-0600 (Летнее горное время (Северная Америка))
I'm retarded
ancientpowerWed Sep 18 2024 13:03:07 GMT-0600 (Летнее горное время (Северная Америка))
yeah
ancientpowerWed Sep 18 2024 13:03:15 GMT-0600 (Летнее горное время (Северная Америка))
nemo clears for its weight class its so insane
nalak_00102Wed Sep 18 2024 13:04:20 GMT-0600 (Летнее горное время (Северная Америка))
nemo adores almost fumbling the no-smile thing
nalak_00102Wed Sep 18 2024 13:04:23 GMT-0600 (Летнее горное время (Северная Америка))
it's so cute
nalak_00102Wed Sep 18 2024 13:07:08 GMT-0600 (Летнее горное время (Северная Америка))
COHEEE YOU SON OF A BITCH
nalak_00102Wed Sep 18 2024 13:07:09 GMT-0600 (Летнее горное время (Северная Америка))
https://github.com/SillyTavern/SillyTavern/pull/2872
nalak_00102Wed Sep 18 2024 13:07:20 GMT-0600 (Летнее горное время (Северная Америка))
he chose the solution that only 20% solves the problem but leaves lbs/character notes/etc broken
ancientpowerThu Sep 19 2024 11:35:28 GMT-0600 (Летнее горное время (Северная Америка))
qwen 2.5 is up on OR btw
ancientpowerThu Sep 19 2024 11:35:31 GMT-0600 (Летнее горное время (Северная Америка))
not expecting much
nalak_00102Thu Sep 19 2024 11:36:33 GMT-0600 (Летнее горное время (Северная Америка))
what is there to expect?
ancientpowerThu Sep 19 2024 11:41:25 GMT-0600 (Летнее горное время (Северная Америка))
seems slightly less censored than 2 so I'm interested in what finetuners might cook up with it
ancientpowerThu Sep 19 2024 11:41:55 GMT-0600 (Летнее горное время (Северная Америка))
it actually mentioned cock etc unprompted while 2 would beat around the bush for ages
nalak_00102Thu Sep 19 2024 11:42:03 GMT-0600 (Летнее горное время (Северная Америка))
would finetuners rather wipe the dogshit off an unfiltered model than wipe the filter out of a good model?
ancientpowerThu Sep 19 2024 11:42:44 GMT-0600 (Летнее горное время (Северная Америка))
the latter is easier and yields better results, that's why magnum was a qwen 2 finetune and not llama 3 lol
nalak_00102Thu Sep 19 2024 11:43:10 GMT-0600 (Летнее горное время (Северная Америка))
that's my point
ancientpowerThu Sep 19 2024 11:43:31 GMT-0600 (Летнее горное время (Северная Америка))
yeah
ancientpowerThu Sep 19 2024 11:43:43 GMT-0600 (Летнее горное время (Северная Америка))
that's why I'm interested in the results
ancientpowerThu Sep 19 2024 11:46:54 GMT-0600 (Летнее горное время (Северная Америка))
not great but 2 would just refuse this interaction half the time
ancientpowerThu Sep 19 2024 14:58:08 GMT-0600 (Летнее горное время (Северная Америка))
https://blog.novelai.net/inference-update-llama-3-erato-release-window-new-text-gen-samplers-and-goodbye-cfg-6b9e247e0a63
ancientpowerThu Sep 19 2024 14:58:13 GMT-0600 (Летнее горное время (Северная Америка))
it's over bros
nalak_00102Thu Sep 19 2024 14:58:40 GMT-0600 (Летнее горное время (Северная Америка))
>llama 3 >not 3.1 my sides
thezennouThu Sep 19 2024 14:58:47 GMT-0600 (Летнее горное время (Северная Америка))
lol
thezennouThu Sep 19 2024 14:58:56 GMT-0600 (Летнее горное время (Северная Америка))
I'll still try it
nalak_00102Thu Sep 19 2024 14:59:11 GMT-0600 (Летнее горное время (Северная Америка))
@thezennou#0 do you already pay for nai?
thezennouThu Sep 19 2024 14:59:15 GMT-0600 (Летнее горное время (Северная Америка))
yeah
ancientpowerThu Sep 19 2024 14:59:24 GMT-0600 (Летнее горное время (Северная Америка))
oh wait lmfao it's actually base 3
nalak_00102Thu Sep 19 2024 14:59:28 GMT-0600 (Летнее горное время (Северная Америка))
makes it simpler, nice
thezennouThu Sep 19 2024 14:59:56 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 3.1 was pretty enh, tbh
ancientpowerThu Sep 19 2024 15:00:08 GMT-0600 (Летнее горное время (Северная Америка))
8k context doe
thezennouThu Sep 19 2024 15:00:12 GMT-0600 (Летнее горное время (Северная Америка))
True!
nalak_00102Thu Sep 19 2024 15:00:33 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 do you ACTUALLY GAIN from more tho
ancientpowerThu Sep 19 2024 15:00:48 GMT-0600 (Летнее горное время (Северная Америка))
true, 8k context is all you need...
nalak_00102Thu Sep 19 2024 15:01:10 GMT-0600 (Летнее горное время (Северная Америка))
guessing the math in my head
jidfgj4934kasdd0111Thu Sep 19 2024 15:01:12 GMT-0600 (Летнее горное время (Северная Америка))
That's why 0613 is still the best OAI model btw
ancientpowerThu Sep 19 2024 15:01:32 GMT-0600 (Летнее горное время (Северная Америка))
why are they doing the apple thing of coming up with their own original do not steal names for sampling settings
thezennouThu Sep 19 2024 15:01:48 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 "Min P"
nalak_00102Thu Sep 19 2024 15:02:01 GMT-0600 (Летнее горное время (Северная Америка))
min p is actually unironically the best sampler tho
looorkerThu Sep 19 2024 15:02:03 GMT-0600 (Летнее горное время (Северная Америка))
why aren't they using llama 3.1 i mean mistral large i mean qwen 2.5 i mean
nalak_00102Thu Sep 19 2024 15:02:10 GMT-0600 (Летнее горное время (Северная Америка))
temp and min p you literally don't need more
ancientpowerThu Sep 19 2024 15:02:32 GMT-0600 (Летнее горное время (Северная Америка))
they should have used gemma...
thezennouThu Sep 19 2024 15:02:41 GMT-0600 (Летнее горное время (Северная Америка))
@looorker#0 If the rumors are anything to go off, they started tuning this 4+* months ago. It just takes them that long to do anything
looorkerThu Sep 19 2024 15:03:00 GMT-0600 (Летнее горное время (Северная Америка))
that's what i figured
nalak_00102Thu Sep 19 2024 15:03:28 GMT-0600 (Летнее горное время (Северная Америка))
high quality literature dataset (an actual gutenberg scrape)
ancientpowerThu Sep 19 2024 15:03:35 GMT-0600 (Летнее горное время (Северная Америка))
@thezennou#0 <@467646565390221312> holy shit he actually is retarded huh?
thezennouThu Sep 19 2024 15:03:56 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 That deleted user is me btw
thezennouThu Sep 19 2024 15:03:57 GMT-0600 (Летнее горное время (Северная Америка))
LMAO
ancientpowerThu Sep 19 2024 15:04:02 GMT-0600 (Летнее горное время (Северная Америка))
real shit?
thezennouThu Sep 19 2024 15:04:06 GMT-0600 (Летнее горное время (Северная Америка))
Yeah for real
ancientpowerThu Sep 19 2024 15:04:16 GMT-0600 (Летнее горное время (Северная Америка))
this is going to be 9/11 for nai dickriders
nalak_00102Thu Sep 19 2024 15:04:54 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 i have genuinely no idea how correct this is
nalak_00102Thu Sep 19 2024 15:05:07 GMT-0600 (Летнее горное время (Северная Америка))
i just know that the math doesn't really make sense
ancientpowerThu Sep 19 2024 15:05:09 GMT-0600 (Летнее горное время (Северная Америка))
it's so painfully incorrect that i am physically recoiling
thezennouThu Sep 19 2024 15:05:21 GMT-0600 (Летнее горное время (Северная Америка))
He's techincally "right", but in the most redditor way possible. Real world, absolutely not.
ancientpowerThu Sep 19 2024 15:05:42 GMT-0600 (Летнее горное время (Северная Америка))
a q8 70B is going to beat the ever loving fuck out of an fp16 30B
thezennouThu Sep 19 2024 15:05:46 GMT-0600 (Летнее горное время (Северная Америка))
We don't even know how much data we can cram into a 7b, let alone a 30b
ancientpowerThu Sep 19 2024 15:06:05 GMT-0600 (Летнее горное время (Северная Америка))
meta did claim they were reaching saturation for llama 3, allegedly
thezennouThu Sep 19 2024 15:06:14 GMT-0600 (Летнее горное время (Северная Америка))
Maybe for the 7b lol
nalak_00102Thu Sep 19 2024 15:06:23 GMT-0600 (Летнее горное время (Северная Америка))
interesting
nalak_00102Thu Sep 19 2024 15:06:52 GMT-0600 (Летнее горное время (Северная Америка))
are they just coping that quantization bad so they can train a model with fewer parameters?
ancientpowerThu Sep 19 2024 15:07:00 GMT-0600 (Летнее горное время (Северная Америка))
perplexity drop between full precision and q8 is negligable
thezennouThu Sep 19 2024 15:07:02 GMT-0600 (Летнее горное время (Северная Америка))
@nalak_00102#0 That was exactly what they were doing.
thezennouThu Sep 19 2024 15:07:12 GMT-0600 (Летнее горное время (Северная Америка))
Seems they've dropped that whole act as standards have raised
nalak_00102Thu Sep 19 2024 15:07:33 GMT-0600 (Летнее горное время (Северная Америка))
lmao
nalak_00102Thu Sep 19 2024 15:08:11 GMT-0600 (Летнее горное время (Северная Америка))
they DO have an actual gutenberg scrape tho so this should be a bit fun
thezennouThu Sep 19 2024 15:08:46 GMT-0600 (Летнее горное время (Северная Америка))
Yeah, I don't want doom and gloom too hard until I try it myself. A week isn't that bad of a wait.
thezennouThu Sep 19 2024 15:09:04 GMT-0600 (Летнее горное время (Северная Америка))
But I'm already prepping my "I told you so" cards.
nalak_00102Thu Sep 19 2024 15:09:31 GMT-0600 (Летнее горное время (Северная Америка))
💜
nalak_00102Thu Sep 19 2024 15:09:46 GMT-0600 (Летнее горное время (Северная Америка))
God's strongest logmakie.
.hopeforthefutureThu Sep 19 2024 15:11:17 GMT-0600 (Летнее горное время (Северная Америка))
I should start sending logs again, it was fun when I did the Vergil Arkam stuff
ancientpowerThu Sep 19 2024 17:21:04 GMT-0600 (Летнее горное время (Северная Америка))
the era of free 🅱️ermes 405b is over ($4.50/M now)
nalak_00102Fri Sep 20 2024 07:57:24 GMT-0600 (Летнее горное время (Северная Америка))
>more expensive than sorbet so they want 0 people to use it, got it
nalak_00102Fri Sep 20 2024 07:57:36 GMT-0600 (Летнее горное время (Северная Америка))
"but it's better than sorbet" it probably is but still
nalak_00102Fri Sep 20 2024 08:04:57 GMT-0600 (Летнее горное время (Северная Америка))
@thezennou#0 <@467646565390221312> am i having an aneurysm
nalak_00102Fri Sep 20 2024 08:05:44 GMT-0600 (Летнее горное время (Северная Америка))
there is no fucking way that finetuners are actually using datasets with gpt writing in them
nalak_00102Fri Sep 20 2024 08:08:23 GMT-0600 (Летнее горное время (Северная Америка))
wait that's just the json format they used
nalak_00102Fri Sep 20 2024 08:08:36 GMT-0600 (Летнее горное время (Северная Америка))
_it reads like gpt tho_
thezennouFri Sep 20 2024 15:01:13 GMT-0600 (Летнее горное время (Северная Америка))
they love synthetic data
nalak_00102Sat Sep 21 2024 06:45:29 GMT-0600 (Летнее горное время (Северная Америка))
nalak_00102Sat Sep 21 2024 09:28:05 GMT-0600 (Летнее горное время (Северная Америка))
thezennouSat Sep 21 2024 09:28:48 GMT-0600 (Летнее горное время (Северная Америка))
Glory to the CCP 🇨🇳
nalak_00102Sat Sep 21 2024 09:30:23 GMT-0600 (Летнее горное время (Северная Америка))
large doesn't even blink at me calling it the tiananmen massacre but cucks out at the end
nalak_00102Sat Sep 21 2024 13:12:52 GMT-0600 (Летнее горное время (Северная Америка))
.............large doesn't understand how pasties work
nalak_00102Sat Sep 21 2024 13:12:54 GMT-0600 (Летнее горное время (Северная Америка))
it's over
nalak_00102Sat Sep 21 2024 13:29:50 GMT-0600 (Летнее горное время (Северная Америка))
this is as soulless as it gets
https://cdn.discordapp.com/attachments/1262191123447681034/1287133709098553396/claude.PNG?ex=66f3132e&is=66f1c1ae&hm=fd5d4e6f9c5677ffd10049e0d1a6126e6e3c98f577180a28881a453a8f97a3e2&
ancientpowerSat Sep 21 2024 13:38:07 GMT-0600 (Летнее горное время (Северная Америка))
i was reading that and it inflicted psychological pain
ancientpowerSat Sep 21 2024 13:38:40 GMT-0600 (Летнее горное время (Северная Америка))
even with good prompts LLMs are NOT good for writing advice
ancientpowerSun Sep 22 2024 20:17:00 GMT-0600 (Летнее горное время (Северная Америка))
testing anthracite's new coal
ancientpowerSun Sep 22 2024 20:19:11 GMT-0600 (Летнее горное время (Северная Америка))
actually talking to the dude right now about the assistant model filler paragraphs at the end of replies
ancientpowerSun Sep 22 2024 20:19:57 GMT-0600 (Летнее горное время (Северная Америка))
shark test
looorkerSun Sep 22 2024 20:20:13 GMT-0600 (Летнее горное время (Северная Америка))
opus is a very smart model but it's way too sloppy for just piping it raw as synthetic data
looorkerSun Sep 22 2024 20:20:17 GMT-0600 (Летнее горное время (Северная Америка))
>eyes crinkling at the corners
ancientpowerSun Sep 22 2024 20:20:26 GMT-0600 (Летнее горное время (Северная Америка))
old lady kate...
looorkerSun Sep 22 2024 20:20:39 GMT-0600 (Летнее горное время (Северная Америка))
they fucking hagged my cat
ancientpowerSun Sep 22 2024 20:20:40 GMT-0600 (Летнее горное время (Северная Америка))
they have allegedly been doing more than just synthetic opus data for a while now
ancientpowerSun Sep 22 2024 20:20:51 GMT-0600 (Летнее горное время (Северная Америка))
but they do not claim to be quality at least
looorkerSun Sep 22 2024 20:20:52 GMT-0600 (Летнее горное время (Северная Америка))
the f-list dataset...
semisapientSun Sep 22 2024 21:13:58 GMT-0600 (Летнее горное время (Северная Америка))
whoa wait theres a kate card?
looorkerSun Sep 22 2024 23:00:20 GMT-0600 (Летнее горное время (Северная Америка))
yes
looorkerSun Sep 22 2024 23:00:42 GMT-0600 (Летнее горное время (Северная Америка))
there's a kate card (floating around publicly) and a kate invasion lorebook (only posted here and sometimes inserted into open ST instances when i'm bored)
looorkerSun Sep 22 2024 23:01:10 GMT-0600 (Летнее горное время (Северная Америка))
looorkerSun Sep 22 2024 23:05:26 GMT-0600 (Летнее горное время (Северная Америка))
she's good
semisapientSun Sep 22 2024 23:10:40 GMT-0600 (Летнее горное время (Северная Америка))
>sometimes inserted into open ST instances when i'm bored) lmfaooooo thats an incredible bit
semisapientSun Sep 22 2024 23:11:35 GMT-0600 (Летнее горное время (Северная Америка))
she IS good
looorkerSun Sep 22 2024 23:16:14 GMT-0600 (Летнее горное время (Северная Америка))
they should not let buttons you're about to click get occluded by "instant join call"
looorkerSun Sep 22 2024 23:16:29 GMT-0600 (Летнее горное время (Северная Америка))
anyway here's the kate jumpscare lorebook
https://cdn.discordapp.com/attachments/1262191123447681034/1287643733994508289/db72a5c9889dd4af.json?ex=66f2f3ed&is=66f1a26d&hm=ea3ae1e8fc28308dbef94a3920b889c32d031a0cb0e85e0e3cda65deebc8d941&
wanzerlunderSun Sep 22 2024 23:17:01 GMT-0600 (Летнее горное время (Северная Америка))
its ok ]
wanzerlunderSun Sep 22 2024 23:17:04 GMT-0600 (Летнее горное время (Северная Америка))
i also got jumpscare
wanzerlunderSun Sep 22 2024 23:17:05 GMT-0600 (Летнее горное время (Северная Америка))
d
semisapientSun Sep 22 2024 23:17:52 GMT-0600 (Летнее горное время (Северная Америка))
@looorker#0 do people actually play along with her or do they just freak out and shut down ST
looorkerSun Sep 22 2024 23:18:04 GMT-0600 (Летнее горное время (Северная Америка))
i haven't checked yet
looorkerSun Sep 22 2024 23:20:47 GMT-0600 (Летнее горное время (Северная Америка))
stop looking at the same instance as me
looorkerSun Sep 22 2024 23:22:22 GMT-0600 (Летнее горное время (Северная Америка))
oh wait csrf is just fucked on that one i thought i brought it up and someone else started browsing lmao
semisapientSun Sep 22 2024 23:30:43 GMT-0600 (Летнее горное время (Северная Америка))
that's kate
looorkerSun Sep 22 2024 23:30:54 GMT-0600 (Летнее горное время (Северная Америка))
smh
looorkerSun Sep 22 2024 23:48:56 GMT-0600 (Летнее горное время (Северная Америка))
i'm having to tweak the lorebook because i just realized claude won't drop her in right if the RP is in chinese which accounts for an extreme majority of open ST instances
wanzerlunderSun Sep 22 2024 23:51:51 GMT-0600 (Летнее горное время (Северная Америка))
@looorker#0 why is that the case
wanzerlunderSun Sep 22 2024 23:51:54 GMT-0600 (Летнее горное время (Северная Америка))
like why do they do that
looorkerSun Sep 22 2024 23:52:09 GMT-0600 (Летнее горное время (Северная Америка))
great firewall
looorkerSun Sep 22 2024 23:52:22 GMT-0600 (Летнее горное время (Северная Америка))
having a VPS you do everything through is a pretty great way to get around that
looorkerSun Sep 22 2024 23:57:55 GMT-0600 (Летнее горное время (Северная Америка))
lmao
semisapientMon Sep 23 2024 00:02:50 GMT-0600 (Летнее горное время (Северная Америка))
hahahahahaha oh my god
semisapientMon Sep 23 2024 00:03:57 GMT-0600 (Летнее горное время (Северная Америка))
Li Xingxing and Anon
looorkerMon Sep 23 2024 00:04:28 GMT-0600 (Летнее горное время (Северная Америка))
i just pulled the first chinese card i could find
looorkerMon Sep 23 2024 00:04:33 GMT-0600 (Летнее горное время (Северная Америка))
wait shit i should us chinese tomoyo
looorkerMon Sep 23 2024 00:06:49 GMT-0600 (Летнее горное время (Северная Америка))
i'm pretty sure this is an ntr bot judging by how it introduces kate every time lmao
looorkerMon Sep 23 2024 00:09:06 GMT-0600 (Летнее горное время (Северная Америка))
i have no fucking clue what's happening
looorkerMon Sep 23 2024 00:09:59 GMT-0600 (Летнее горное время (Северная Америка))
>see maid and {{user}} macking >enter in maid outfit >make fun of her for being a seductress >start sexually harassing her >don't clarify
looorkerMon Sep 23 2024 00:17:19 GMT-0600 (Летнее горное время (Северная Америка))
figured it out, if you don't have recursive scan on it just doesn't do it no matter what you do in the lorebook, thanks cohee
semisapientMon Sep 23 2024 00:25:03 GMT-0600 (Летнее горное время (Северная Америка))
@looorker#0 i actually really like the style of the first line here
semisapientMon Sep 23 2024 00:25:18 GMT-0600 (Летнее горное время (Северная Америка))
i need to start ESLmaxxing
looorkerMon Sep 23 2024 00:25:33 GMT-0600 (Летнее горное время (Северная Америка))
i'm using a chinese card with the auto google translate on
looorkerMon Sep 23 2024 00:25:35 GMT-0600 (Летнее горное время (Северная Америка))
it's an experience
looorkerMon Sep 23 2024 00:26:13 GMT-0600 (Летнее горное время (Северная Америка))
semisapientMon Sep 23 2024 00:27:36 GMT-0600 (Летнее горное время (Северная Америка))
soul....
semisapientMon Sep 23 2024 00:27:47 GMT-0600 (Летнее горное время (Северная Америка))
ive been so mindbroken by claude's prose that i'm now yearning for googletranslateisms
looorkerMon Sep 23 2024 00:28:16 GMT-0600 (Летнее горное время (Северная Америка))
i can't get my chosen funny to work which is "Kate doesn't understand any language but English but will continue trying to interact with the characters despite not being able to understand any of them"
looorkerMon Sep 23 2024 00:33:48 GMT-0600 (Летнее горное время (Северная Америка))
kind of cute
looorkerMon Sep 23 2024 00:37:15 GMT-0600 (Летнее горное время (Северная Америка))
lol
looorkerMon Sep 23 2024 00:37:16 GMT-0600 (Летнее горное время (Северная Америка))
i think it works
looorkerMon Sep 23 2024 00:39:17 GMT-0600 (Летнее горное время (Северная Америка))
mildly updated version (literally just things i tweaked until i realized recursive scan was off lol)
https://cdn.discordapp.com/attachments/1262191123447681034/1287664569036046388/017b5e02798451ab.json?ex=66f30754&is=66f1b5d4&hm=6b619c447a78fb17b8846459af8c7da6729c5a3a4f5942a7ee32d7d83dfeb63c&
semisapientMon Sep 23 2024 00:45:30 GMT-0600 (Летнее горное время (Северная Америка))
i like how it makes her personality turn more chinese
semisapientMon Sep 23 2024 00:46:14 GMT-0600 (Летнее горное время (Северная Америка))
"just passing by and stopping by"
looorkerMon Sep 23 2024 00:48:58 GMT-0600 (Летнее горное время (Северная Америка))
localized kate...
looorkerMon Sep 23 2024 00:49:24 GMT-0600 (Летнее горное время (Северная Америка))
steamed hams joke here
semisapientMon Sep 23 2024 00:55:42 GMT-0600 (Летнее горное время (Северная Америка))
entirely within your kit-chen
semisapientMon Sep 23 2024 00:55:48 GMT-0600 (Летнее горное время (Северная Америка))
ehhh. not my best work
looorkerMon Sep 23 2024 00:56:10 GMT-0600 (Летнее горное время (Северная Америка))
to be fair in that log she does localize herself right into anon's kitchen
semisapientMon Sep 23 2024 00:58:59 GMT-0600 (Летнее горное время (Северная Америка))
(kate trying to understand mandarin) well xi mour, i made it, despite your inflections
looorkerMon Sep 23 2024 00:59:56 GMT-0600 (Летнее горное время (Северная Америка))
>open chinese instance >nanjing bot ok
semisapientMon Sep 23 2024 01:23:00 GMT-0600 (Летнее горное время (Северная Америка))
jesus
semisapientMon Sep 23 2024 01:23:31 GMT-0600 (Летнее горное время (Северная Америка))
is it a "try to survive" type scenario or is it a "go rambo on the japanese" type scenario
looorkerMon Sep 23 2024 01:43:44 GMT-0600 (Летнее горное время (Северная Америка))
i couldn't quite understand it but it appeared to be a female chinese soldier and there were details about what would happen if she lost
looorkerMon Sep 23 2024 01:43:45 GMT-0600 (Летнее горное время (Северная Америка))
so
semisapientMon Sep 23 2024 01:49:33 GMT-0600 (Летнее горное время (Северная Америка))
hm
semisapientMon Sep 23 2024 01:49:34 GMT-0600 (Летнее горное время (Северная Америка))
well
semisapientMon Sep 23 2024 01:49:46 GMT-0600 (Летнее горное время (Северная Америка))
i hope theyre enjoying themself
looorkerMon Sep 23 2024 01:50:54 GMT-0600 (Летнее горное время (Северная Америка))
to be fair i did walk into their space so i well deserve to be shown perversion beyond my imagination
nalak_00102Mon Sep 23 2024 04:07:43 GMT-0600 (Летнее горное время (Северная Америка))
what's up with the asterisks?
looorkerMon Sep 23 2024 04:48:38 GMT-0600 (Летнее горное время (Северная Америка))
google translate jank
nalak_00102Mon Sep 23 2024 10:15:43 GMT-0600 (Летнее горное время (Северная Америка))
oh shit it just hit me that people burn through tokens like mad because they actually chat with chatbots
nalak_00102Mon Sep 23 2024 10:16:06 GMT-0600 (Летнее горное время (Северная Америка))
chatting like irl chat
nalak_00102Mon Sep 23 2024 10:16:37 GMT-0600 (Летнее горное время (Северная Америка))
niggas is straight unhinged
nalak_00102Mon Sep 23 2024 14:34:26 GMT-0600 (Летнее горное время (Северная Америка))
@thezennou#0 <@467646565390221312> IT'S UP APPARENTLY
nalak_00102Mon Sep 23 2024 14:34:28 GMT-0600 (Летнее горное время (Северная Америка))
https://blog.novelai.net/muscle-up-with-llama-3-erato-3b48593a1cab
nalak_00102Mon Sep 23 2024 14:35:15 GMT-0600 (Летнее горное время (Северная Америка))
quick before i give anlatan money[
nalak_00102Mon Sep 23 2024 14:40:56 GMT-0600 (Летнее горное время (Северная Америка))
...lmao
nalak_00102Mon Sep 23 2024 14:42:17 GMT-0600 (Летнее горное время (Северная Америка))
i am once more reminded how bad the nai frontend is
nalak_00102Mon Sep 23 2024 14:51:41 GMT-0600 (Летнее горное время (Северная Америка))
nalak_00102Mon Sep 23 2024 14:51:49 GMT-0600 (Летнее горное время (Северная Америка))
i have no words
nalak_00102Mon Sep 23 2024 14:54:05 GMT-0600 (Летнее горное время (Северная Америка))
erato consistently continues that paragraph with more dialogue and kayra doesn't, so i'm giving it the W on this one
nalak_00102Mon Sep 23 2024 15:03:38 GMT-0600 (Летнее горное время (Северная Америка))
🧎♂️
nalak_00102Mon Sep 23 2024 15:06:23 GMT-0600 (Летнее горное время (Северная Америка))
l m a o
thezennouMon Sep 23 2024 16:21:58 GMT-0600 (Летнее горное время (Северная Америка))
Shit
thezennouMon Sep 23 2024 16:22:02 GMT-0600 (Летнее горное время (Северная Америка))
I was sleeping
ancientpowerMon Sep 23 2024 16:27:32 GMT-0600 (Летнее горное время (Северная Америка))
okay but how many watermelons can it stack
nalak_00102Mon Sep 23 2024 16:28:02 GMT-0600 (Летнее горное время (Северная Америка))
@ancientpower#0 probably n-1 compared to regular llama 3 70b
thezennouMon Sep 23 2024 16:28:36 GMT-0600 (Летнее горное время (Северная Америка))
The request isn't telling me the model name anymore
thezennouMon Sep 23 2024 16:28:50 GMT-0600 (Летнее горное время (Северная Америка))
I was gonna hack ST into using erato but it seems it won't be so easy
ancientpowerMon Sep 23 2024 16:31:55 GMT-0600 (Летнее горное время (Северная Америка))
it's not on API yet?
thezennouMon Sep 23 2024 16:33:46 GMT-0600 (Летнее горное время (Северная Америка))
It probably is, but what does that matter if we don't know the model name to put into the request to the API?
thezennouMon Sep 23 2024 16:34:02 GMT-0600 (Летнее горное время (Северная Америка))
I might just try it at random till I hit a battleship
ancientpowerMon Sep 23 2024 16:34:11 GMT-0600 (Летнее горное время (Северная Америка))
ah
nalak_00102Mon Sep 23 2024 16:34:27 GMT-0600 (Летнее горное время (Северная Америка))
@thezennou#0 gimme a sec to swipe and inspect requests
nalak_00102Mon Sep 23 2024 16:35:17 GMT-0600 (Летнее горное время (Северная Америка))
llama-3-erato-v1
nalak_00102Mon Sep 23 2024 16:35:28 GMT-0600 (Летнее горное время (Северная Америка))
@thezennou#0 <@467646565390221312>
thezennouMon Sep 23 2024 16:35:48 GMT-0600 (Летнее горное время (Северная Америка))
what the fuck
thezennouMon Sep 23 2024 16:35:54 GMT-0600 (Летнее горное время (Северная Америка))
why didn't that show up for me
thezennouMon Sep 23 2024 16:37:28 GMT-0600 (Летнее горное время (Северная Америка))
Well it works. src -> novelai.js -> requestbody -> replace model with "llama-3-erato-v1"
thezennouMon Sep 23 2024 16:38:09 GMT-0600 (Летнее горное время (Северная Америка))
Hm, I techincally have no way of checking if this is erato though.
thezennouMon Sep 23 2024 16:41:12 GMT-0600 (Летнее горное время (Северная Америка))
oh yeah that's right, novelai is treated like a local model in sillytavern 😔 Millions must use shitty intstruct formatting
nalak_00102Mon Sep 23 2024 16:41:46 GMT-0600 (Летнее горное время (Северная Америка))
LMAO
nalak_00102Mon Sep 23 2024 16:41:59 GMT-0600 (Летнее горное время (Северная Америка))
i don't think erato is instruct tuned
thezennouMon Sep 23 2024 16:42:31 GMT-0600 (Летнее горное время (Северная Америка))
It probably isn't, but 70b should be smart enough to RP anyways
thezennouMon Sep 23 2024 16:42:51 GMT-0600 (Летнее горное время (Северная Америка))
They are going to tune this into a proper RP model for Aetherroom anyways
nalak_00102Mon Sep 23 2024 16:42:51 GMT-0600 (Летнее горное время (Северная Америка))
that's true but you can also just use it for text completion normally
thezennouMon Sep 23 2024 16:43:32 GMT-0600 (Летнее горное время (Северная Америка))
thezennouMon Sep 23 2024 16:43:37 GMT-0600 (Летнее горное время (Северная Америка))
Bro just told me to wait
nalak_00102Mon Sep 23 2024 16:44:10 GMT-0600 (Летнее горное время (Северная Америка))
@thezennou#0 🧎♂️
looorkerMon Sep 23 2024 16:44:35 GMT-0600 (Летнее горное время (Северная Америка))
give him a sec
thezennouMon Sep 23 2024 16:44:50 GMT-0600 (Летнее горное время (Северная Америка))
>can't even neutralize samplers
thezennouMon Sep 23 2024 16:45:00 GMT-0600 (Летнее горное время (Северная Америка))
holy shit cohee does not care about NAI generation at all
nalak_00102Mon Sep 23 2024 16:45:35 GMT-0600 (Летнее горное время (Северная Америка))
@thezennou#0 should he?
thezennouMon Sep 23 2024 16:45:46 GMT-0600 (Летнее горное время (Северная Америка))
I mean, if this model is good then maybe?
nalak_00102Mon Sep 23 2024 16:45:54 GMT-0600 (Летнее горное время (Северная Америка))
but it's slop
thezennouMon Sep 23 2024 16:46:04 GMT-0600 (Летнее горное время (Северная Америка))
Is that the consensus?
nalak_00102Mon Sep 23 2024 16:46:27 GMT-0600 (Летнее горное время (Северная Америка))
it continued this paragraph with more dialogue like 5 times
nalak_00102Mon Sep 23 2024 16:46:31 GMT-0600 (Летнее горное время (Северная Америка))
do you NEED more?
nalak_00102Mon Sep 23 2024 16:46:47 GMT-0600 (Летнее горное время (Северная Америка))
kayra 0-shotted just starting a new paragraph like a sane writer
thezennouMon Sep 23 2024 16:50:01 GMT-0600 (Летнее горное время (Северная Америка))
maybe it's just the new model brain happy with new slop instead of old slop, but the few prompts I've tried have certainly been better than LLaMA-3
thezennouMon Sep 23 2024 16:50:20 GMT-0600 (Летнее горное время (Северная Америка))
I need a few hours with it before drawing my conclusion, and maybe proper ST support
thezennouMon Sep 23 2024 18:28:10 GMT-0600 (Летнее горное время (Северная Америка))
Okay cohee added erato to staging
ancientpowerMon Sep 23 2024 18:29:34 GMT-0600 (Летнее горное время (Северная Америка))
eraTohoTW...
Export 1000 message(s)