mastodon - Link to source

RADV Vulkan Video Improvements Make It Into Mesa 25.2 For AMD RDNA4 GPUs

Ahead of the Mesa 25.2 code branching / feature freeze expected later this week, last minute feature additions and other changes continue landing in the codebase for these open-source OpenGL and Vulkan drivers. One of the additions today worth mentioning are continued Vulkan Video improvements for AMD Radeon graphics...
phoronix.com/news/RADV-RDNA4-T…

RADV Vulkan Video Improvements Make It Into Mesa 25.2 For AMD RDNA4 GPUs

www.phoronix.com

friendica - Link to source
Der Borussia Dortmund kommt zum Jubiläums des Hemberg-Stadions nach Iserlohn. Hier findet ihr den Link zu den Tickets.#[BVB #Fußball-Freundschaftsspiel #Ticketverkaufstartet]

Jubiläum Hemberg-Stadion Iserlohn: BVB zu Gast

Der Borussia Dortmund kommt zum Jubiläums des Hemberg-Stadions nach Iserlohn. Hier findet ihr den Link zu den Tickets.
Radio Mk
#bvb #Fußball-Freundschaftsspiel #Ticketverkaufstartet

mastodon - Link to source

Intel Mesa Drivers Add Option To Disable Xe3's Variable Register Thread "VRT" Feature

One of the interesting new additions with the upcoming Intel Xe3 integrated and discrete graphics is the Variable Register Thread "VRT" feature. Making use of Variable Register Thread can reduce register splitting, reduce bandwidth consumption, and improve overall performance. More background information on Intel VRT can be found in that aforelinked Phoronix…
phoronix.com/news/Intel-Mesa-V…

Intel Mesa Drivers Add Option To Disable Xe3's Variable Register Thread "VRT" Feature

One of the interesting new additions with the upcoming Intel Xe3 integrated and discrete graphics is the Variable Register Thread 'VRT' feature
www.phoronix.com

mastodon - Link to source
อีมิแน้นท์แอร์ รับเกียรติบัตร “องค์กรลดโลกร้อน” ตอกย้ำความมุ่งมั่นสู่การพัฒนาอย่างยั่งยืน ด้วยการใช้เสื้อผ้า CoolMode https://digitalmore.co/อีมิแน้นท์แอร์-รับเกียร/

อีมิแน้นท์แอร์ รับเกียรติบัตร “องค์กรลดโลกร้อน” ตอกย้ำความมุ่งมั่นสู่การพัฒนาอย่างยั่งยืน ด้วยการใช้เสื้อผ้า

บริษัท อีมิแน้นท์แอร์ (ประเทศไทย) จำกัด เข้ารับมอบเกียรติบัตร “องค์กรลดโลกร้อน ด้วยการเป็นผู้ใช้ผ้า CoolMode” ในพิธีมอบเกียรติบัตรและสัมมนาเชิงวิชาการ ภายใต้หัวข้อ “องค์กรลดโลกร้อน…ด้วยการใช้เสื้อผ้า CoolMode” ซึ่งจัดโดยสถาบันพัฒนาอุตสาหกรรมสิ่งทอ ร่…
kampayy (DigitalMore)

mastodon - Link to source
นิยายญี่ปุ่นต่างโลก สูตรสำเร็จที่ครองใจนักอ่านทั่วโลก https://digitalmore.co/นิยายญี่ปุ่นต่างโลก-สูต/

นิยายญี่ปุ่นต่างโลก สูตรสำเร็จที่ครองใจนักอ่านทั่วโลก | Digital More

นิยายญี่ปุ่นแฟนตาซี แขนงนี้สามารถมัดใจนักอ่านกว่าล้านคนทั่วโลก พร้อมแนะนำเรื่องเด็ดที่คุณไม่ควรพลาด และชี้เป้าแหล่งอ่านที่ถูกต้องตามลิขสิทธิ์
Pannaphat Kosasaeng (krapalm) (DigitalMore)

RSS/Atom (via ActivityPub) - Link to source

ลองทำ REST API ให้กับ microsoft/BitNet b1.58 2B4T


Blog ตอนนี้มาเขียน กึ่งบ่นครับ 555 ปกติแล้ว ผมจะใช้ Model จากที่มีใน Ollama นี้เอง แล้วบังเอิญว่าเจอ X ของคนนี้ มันมี Model ของ Microsoft เค้าว่ากันว่ากันว่า Model microsoft/BitNet นี้ Run บน CPU ก็ไหมนะ ถ้าใช้แบบพวก M2 จะไว้ขึ้นอีก

Microsoft just a 1-bit LLM with 2B parameters that can run on CPUs like Apple M2.

BitNet b1.58 2B4T outperforms fp LLaMA 3.2 1B while using only 0.4GB memory versus 2GB and processes tokens 40% faster.

100% opensource. pic.twitter.com/kTeqTs6PHd

— Shubham Saboo (@Saboo_Shubham_) April 18, 2025


และเข้า Model นั้นตัว microsoft/BitNet b1.58 2B4T นั้นเองครับ หลังจากเห็นข่าวมาตอน APR 2025 ผมก็รอว่าจะมีใครสักคนลองเอามาทำใน Ollama ไหมนะ เห็นมีคนถามเหมือนกันนะ แต่รอจนนานและมาจนถึงเดือน 6 ยังไม่มีนะ เลยเอาหวะ เดี๋ยวมาหาทาง Run เองจาก Code และกัน โดยตอนแรก ตั้งโจทย์แบบง่ายๆ เอา Model ขึ้น Container และไปหาอะไรสักตัวที่ทำ Endpoint เข้ากับตัว Open WebUI ได้ก็พอครับ

Table of Contents


เตรียมตัวสำหรับ Run microsoft/BitNet
- Linux จริงๆ ผมลองใน docker นะ


เอา image ของ Python ตั้ง และลงตามนี้เลย
# Use official Python 3.12 imageFROM python:3.12-slim# Install system dependencies for PyTorch and build toolsRUN apt-get update && \ apt-get install -y --no-install-recommends \ build-essential \ cmake \ git \ curl \ ca-certificates \ libopenblas-dev \ libomp-dev \ libssl-dev \ libffi-dev \ wget \ && rm -rf /var/lib/apt/lists/*# (Optional) Set a working directoryWORKDIR /app# Copy your requirements.txt if you have oneCOPY requirements.txt .RUN pip install --upgrade pip && pip install -r requirements.txt
และกำหนด requirement ดังนี้
fastapi==0.110.2uvicorn[standard]==0.29.0transformers==4.52.4torch==2.7.0numpy==1.26.4accelerate==0.29.0
จากนั้นจะ Run แบบปกติ
# Build the imagedocker build -t python-bitNet .# Run the container with port forwarding and mounting your codedocker run -it -p 8888:8888 -v "$PWD":/app python-bitNet /bin/bash
หรือ จะใช้ DevContainer ก็ได้นะ ผมลองใช้อันนี้สะดวกดี

- Windows อันนี้ขั้นตอนเยอะนิดนึงครับ สำหรับคนที่ชอบความท้าทาย


ที่เขียนว่าท้าทาย เพราะผมลองแล้วติดมา 2 week 555 ขา Linux มันแปบเดียวจบ โดยสำหรับใครที่อยากลองต้องมีของตามนี้

  • สำหรับใน Visual Studio ต้องลงส่วนของ C++ เพิ่ม ดังนี้



  • รัน PowerShell ไม่รอด ต้องไป Run ใน Developer Command Prompt for VS 2022 หรือ Developer Command Prompt for VS 2022 เหมือนตัว Terminal ปกติ มัน Set ตัวแปร พวก Path อะไรไม่ครบ จะเจอ Error แนวๆ


Error C1083: Cannot open include file: 'algorithm': No such file or directory

แม้ว่าจะลอง set vcvarsall.bat x64 จะอารมณ์ผีเข้าผีออก บางรอบได้ บางรอบไม่ได้

ปล. vcvarsall.bat
อยู่ใน "C:\Program Files\Microsoft Visual Studio\2022\Community\VC\Auxiliary\Build\vcvarsall.bat"


  • set python lib .tlb ใน path > ไม่ใส่จะพัง


fatal error LNK1104: cannot open file 'python312.lib'
และ Set env ให้พร้อม

เขียน Code เรียกใช้ Model จาก Hugging Face


หลังจากหมดปัญหาเรื่อง ENV มาลอง โจทย์ดีกว่า ตอนแรก ผมบอก อยากให้ต่อกับ OpenWebUI ได้ เลยทำมา 2 Version แบบ Command / แบบ API

- แบบ Command


ลองเขียน Code โดยใช้

  • Transformers - เพือดึง pre-trained มาจาก Hugging Face
  • PyTorch (torch) - เพื่อ inference จาก Model ที่ตัว Transformers ดีงมาให้ (ในตอนนี้นะ จริงๆ Spec ที่ Run น่าจะได้เท่านี้แหละ ส่วน Train / Fine Tune) จุดที่ใช้มีหลายส่วน
    - torch_dtype=torch.bfloat16 ใช้ตัวนี้มันกิน Memory น้อย ตอนคำนวณมันจะเอามีทศนิยมแหละ แต่ไม่ละเอียด เท่า FP16
    - return_tensors="pt" ให้ใช้รูปแบบของ PyTorch (pt)
    - to(model.device) ถ้ามีพวก cuda เอามาเสริมความแรงได้


import torchfrom transformers import AutoModelForCausalLM, AutoTokenizermodel_id = "microsoft/bitnet-b1.58-2B-4T"# Load tokenizer and modeltokenizer = AutoTokenizer.from_pretrained(model_id)model = AutoModelForCausalLM.from_pretrained( model_id, torch_dtype=torch.bfloat16, force_download=True,)# Apply the chat templatemessages = [ {"role": "system", "content": "You are a Senior Programmer."}, {"role": "user", "content": "Can you help me with a coding problem?"},]prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)chat_input = tokenizer(prompt, return_tensors="pt").to(model.device)# Generate responsechat_outputs = model.generate(**chat_input, max_new_tokens=50)response = tokenizer.decode(chat_outputs[0][chat_input['input_ids'].shape[-1]:], skip_special_tokens=True)print("\nAssistant Response:", response)ลองแบบ Command Line อันนี้จะเห็นว่า Windows ข้อจำกัดเยอะ
อีก version จริงๆเติม Loop ไป และให้วนถามไปเรื่อยๆ จนกว่าพิมพ์ Thank you BITNET อันนี้ดู Code เต็มๆได้ในนี้

- แบบ API


อันนี้ผมบอกก่อนเลยนะ ว่าไม่ได้ Research ว่ามี Lib อะไรที่ทำได้ ให้ API ของเรา ต่อกัน OpenWebUI ได้เลย ตอนแรก ผมลองไปดูก่อนว่า Open WebUI มันรองรับมาตรฐานการเชื่อมต่อแบบไหน ถ้าเป็นส่วน Text Prompt จะมีส่วน OpenAI / Ollama ตอนนี้ผมปักเลือก OpenAI API เพราะที่เคยลองเล่นตัว dotnet semantic kernel มันจะมีแนว /v1/chat/completions เลยลองเริ่มจากตรงนั้น และลอง Add ใน WebUI และดูว่ามันยิง Path ไหนมาที่ Code ของเราครับ

จากที่ลองมาพบว่ามี API 3 เส้นที่น้อยที่สุดที่ Open WebUI ยิงมาขอเรา ครับ ได้แก่

  • /v1/chat/completions
  • /v1/models
  • /health

อย่างของ /v1/chat/completions ผมก็เติมๆ ตามที่มันฟ้อง + ถาม AI ประมาณนี้
import datetimeimport timeimport uuidfrom fastapi import FastAPI, Requestfrom fastapi.responses import JSONResponsefrom pydantic import BaseModelfrom typing import List, Dict, Optionalimport torchimport uuidfrom datetime import datetimefrom transformers import AutoModelForCausalLM, AutoTokenizerapp = FastAPI()# Load model and tokenizer at startupmodel_id = "microsoft/bitnet-b1.58-2B-4T"tokenizer = AutoTokenizer.from_pretrained(model_id)model = AutoModelForCausalLM.from_pretrained( model_id, torch_dtype=torch.bfloat16, force_download=True,)device = "cuda" if torch.cuda.is_available() else "cpu"model = model.to(device)class Message(BaseModel): role: str content: strclass ChatRequest(BaseModel): messages: List[Message] max_new_tokens: Optional[int] = 700class Choice(BaseModel): index: int message: Dict[str, str] finish_reason: strclass ChatResponse(BaseModel): id: str object: str created: int model: str choices: List[Choice]@app.post("/v1/chat/completions", response_model=ChatResponse)async def chat_completions(request: ChatRequest): # Prepare prompt using chat template prompt = tokenizer.apply_chat_template( [msg.dict() for msg in request.messages], tokenize=False, add_generation_prompt=True ) chat_input = tokenizer(prompt, return_tensors="pt").to(model.device) chat_outputs = model.generate(**chat_input, max_new_tokens=request.max_new_tokens) response = tokenizer.decode( chat_outputs[0][chat_input['input_ids'].shape[-1]:], skip_special_tokens=True ) # Return response in OpenAI-compatible format # return JSONResponse({ # "id": f"chatcmpl-{uuid.uuid4().hex[:12]}", # "object": "chat.completion", # "created": int(time.time()), # "model": model_id, # "choices": [ # { # "index": 0, # "message": { # "role": "assistant", # "content": response # }, # "finish_reason": "stop" # } # ] # }) return ChatResponse( id=f"chatcmpl-{uuid.uuid4().hex[:12]}", object="chat.completion", created=int(time.time()), model=model_id, choices=[ Choice( index=0, message={"role": "assistant", "content": response}, finish_reason="stop" ) ] )@app.get("/")def root(): """Root endpoint with API info""" return JSONResponse({ "message": "OpenAI-Compatible API for Open WebUI", "version": "1.0.0", "endpoints": { "models": "/v1/models", "chat": "/v1/chat/completions", "health": "/health" } })@app.get("/health")def health_check(): """Health check endpoint""" return JSONResponse({"status": "healthy", "timestamp": datetime.now().isoformat()})@app.get("/v1/models")def list_models(): """List available models""" return JSONResponse({ "data": [ { "id": model_id, "object": "model", "created": datetime.now().isoformat(), "owned_by": "microsoft", "permission": [] } ] })
ตอนใช้งานผมทำเป็น Docker ไว้ ตอน Build แอบช็อคกับขนาดเกือบ 10 GB

ลองใช้งานจริงและ เชื่อมกับ Open WebUI ลองไว และ CPU พุ่ง 55

จบการลองแบบงูปลาๆ และ ถ้าเจอที่ดีกว่า เดี๋ยวมาเขียน Blog ต่ออีกทีครับ ทักมาแนะนำได้ครับ สำหรับ Code ทั้งหมด ผม Up อยู่ใน Git แล้วครับ github.com/pingkunga/python_mi…

mastodon - Link to source

ลองทำ REST API ให้กับ microsoft/BitNet b1.58 2B4T

Blog ตอนนี้มาเขียน กึ่งบ่นครับ 555 ปกติแล้ว ผมจะใช้ Model จากที่มีใน Ollama นี้เอง แล้วบังเอิญว่าเจอ X ของคนนี้ มันมี Model ของ Microsoft เค้าว่ากันว่ากันว่า Model microsoft/BitNet นี้ Run บน CPU ก็ไหมนะ ถ้าใช้แบบพวก M2 จะไว้ขึ้นอีก Microsoft just a 1-bit LLM with 2B parameters that can run on CPUs like Apple M2. BitNet b1.58 2B4T outperforms fp LLaMA 3.2 1B while using only 0.4GB memory versus 2GB and processes tokens…

naiwaen.debuggingsoft.com/2025…

naiwaen@DebuggingSoft

2025-07-14 10:35:00

RSS/Atom - Link to source

ลองทำ REST API ให้กับ microsoft/BitNet b1.58 2B4T


Blog ตอนนี้มาเขียน กึ่งบ่นครับ 555 ปกติแล้ว ผมจะใช้ Model จากที่มีใน Ollama นี้เอง แล้วบังเอิญว่าเจอ X ของคนนี้ มันมี Model ของ Microsoft เค้าว่ากันว่ากันว่า Model microsoft/BitNet นี้ Run บน CPU ก็ไหมนะ ถ้าใช้แบบพวก M2 จะไว้ขึ้นอีก

Microsoft just a 1-bit LLM with 2B parameters that can run on CPUs like Apple M2.

BitNet b1.58 2B4T outperforms fp LLaMA 3.2 1B while using only 0.4GB memory versus 2GB and processes tokens 40% faster.

100% opensource. pic.twitter.com/kTeqTs6PHd

— Shubham Saboo (@Saboo_Shubham_) April 18, 2025


และเข้า Model นั้นตัว microsoft/BitNet b1.58 2B4T นั้นเองครับ หลังจากเห็นข่าวมาตอน APR 2025 ผมก็รอว่าจะมีใครสักคนลองเอามาทำใน Ollama ไหมนะ เห็นมีคนถามเหมือนกันนะ แต่รอจนนานและมาจนถึงเดือน 6 ยังไม่มีนะ เลยเอาหวะ เดี๋ยวมาหาทาง Run เองจาก Code และกัน โดยตอนแรก ตั้งโจทย์แบบง่ายๆ เอา Model ขึ้น Container และไปหาอะไรสักตัวที่ทำ Endpoint เข้ากับตัว Open WebUI ได้ก็พอครับ

Table of Contents


เตรียมตัวสำหรับ Run microsoft/BitNet
- Linux จริงๆ ผมลองใน docker นะ


เอา image ของ Python ตั้ง และลงตามนี้เลย
# Use official Python 3.12 imageFROM python:3.12-slim# Install system dependencies for PyTorch and build toolsRUN apt-get update && \ apt-get install -y --no-install-recommends \ build-essential \ cmake \ git \ curl \ ca-certificates \ libopenblas-dev \ libomp-dev \ libssl-dev \ libffi-dev \ wget \ && rm -rf /var/lib/apt/lists/*# (Optional) Set a working directoryWORKDIR /app# Copy your requirements.txt if you have oneCOPY requirements.txt .RUN pip install --upgrade pip && pip install -r requirements.txt
และกำหนด requirement ดังนี้
fastapi==0.110.2uvicorn[standard]==0.29.0transformers==4.52.4torch==2.7.0numpy==1.26.4accelerate==0.29.0
จากนั้นจะ Run แบบปกติ
# Build the imagedocker build -t python-bitNet .# Run the container with port forwarding and mounting your codedocker run -it -p 8888:8888 -v "$PWD":/app python-bitNet /bin/bash
หรือ จะใช้ DevContainer ก็ได้นะ ผมลองใช้อันนี้สะดวกดี

- Windows อันนี้ขั้นตอนเยอะนิดนึงครับ สำหรับคนที่ชอบความท้าทาย


ที่เขียนว่าท้าทาย เพราะผมลองแล้วติดมา 2 week 555 ขา Linux มันแปบเดียวจบ โดยสำหรับใครที่อยากลองต้องมีของตามนี้

  • สำหรับใน Visual Studio ต้องลงส่วนของ C++ เพิ่ม ดังนี้



  • รัน PowerShell ไม่รอด ต้องไป Run ใน Developer Command Prompt for VS 2022 หรือ Developer Command Prompt for VS 2022 เหมือนตัว Terminal ปกติ มัน Set ตัวแปร พวก Path อะไรไม่ครบ จะเจอ Error แนวๆ


Error C1083: Cannot open include file: 'algorithm': No such file or directory

แม้ว่าจะลอง set vcvarsall.bat x64 จะอารมณ์ผีเข้าผีออก บางรอบได้ บางรอบไม่ได้

ปล. vcvarsall.bat
อยู่ใน "C:\Program Files\Microsoft Visual Studio\2022\Community\VC\Auxiliary\Build\vcvarsall.bat"


  • set python lib .tlb ใน path > ไม่ใส่จะพัง


fatal error LNK1104: cannot open file 'python312.lib'
และ Set env ให้พร้อม

เขียน Code เรียกใช้ Model จาก Hugging Face


หลังจากหมดปัญหาเรื่อง ENV มาลอง โจทย์ดีกว่า ตอนแรก ผมบอก อยากให้ต่อกับ OpenWebUI ได้ เลยทำมา 2 Version แบบ Command / แบบ API

- แบบ Command


ลองเขียน Code โดยใช้

  • Transformers - เพือดึง pre-trained มาจาก Hugging Face
  • PyTorch (torch) - เพื่อ inference จาก Model ที่ตัว Transformers ดีงมาให้ (ในตอนนี้นะ จริงๆ Spec ที่ Run น่าจะได้เท่านี้แหละ ส่วน Train / Fine Tune) จุดที่ใช้มีหลายส่วน
    - torch_dtype=torch.bfloat16 ใช้ตัวนี้มันกิน Memory น้อย ตอนคำนวณมันจะเอามีทศนิยมแหละ แต่ไม่ละเอียด เท่า FP16
    - return_tensors="pt" ให้ใช้รูปแบบของ PyTorch (pt)
    - to(model.device) ถ้ามีพวก cuda เอามาเสริมความแรงได้


import torchfrom transformers import AutoModelForCausalLM, AutoTokenizermodel_id = "microsoft/bitnet-b1.58-2B-4T"# Load tokenizer and modeltokenizer = AutoTokenizer.from_pretrained(model_id)model = AutoModelForCausalLM.from_pretrained( model_id, torch_dtype=torch.bfloat16, force_download=True,)# Apply the chat templatemessages = [ {"role": "system", "content": "You are a Senior Programmer."}, {"role": "user", "content": "Can you help me with a coding problem?"},]prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)chat_input = tokenizer(prompt, return_tensors="pt").to(model.device)# Generate responsechat_outputs = model.generate(**chat_input, max_new_tokens=50)response = tokenizer.decode(chat_outputs[0][chat_input['input_ids'].shape[-1]:], skip_special_tokens=True)print("\nAssistant Response:", response)ลองแบบ Command Line อันนี้จะเห็นว่า Windows ข้อจำกัดเยอะ
อีก version จริงๆเติม Loop ไป และให้วนถามไปเรื่อยๆ จนกว่าพิมพ์ Thank you BITNET อันนี้ดู Code เต็มๆได้ในนี้

- แบบ API


อันนี้ผมบอกก่อนเลยนะ ว่าไม่ได้ Research ว่ามี Lib อะไรที่ทำได้ ให้ API ของเรา ต่อกัน OpenWebUI ได้เลย ตอนแรก ผมลองไปดูก่อนว่า Open WebUI มันรองรับมาตรฐานการเชื่อมต่อแบบไหน ถ้าเป็นส่วน Text Prompt จะมีส่วน OpenAI / Ollama ตอนนี้ผมปักเลือก OpenAI API เพราะที่เคยลองเล่นตัว dotnet semantic kernel มันจะมีแนว /v1/chat/completions เลยลองเริ่มจากตรงนั้น และลอง Add ใน WebUI และดูว่ามันยิง Path ไหนมาที่ Code ของเราครับ

จากที่ลองมาพบว่ามี API 3 เส้นที่น้อยที่สุดที่ Open WebUI ยิงมาขอเรา ครับ ได้แก่

  • /v1/chat/completions
  • /v1/models
  • /health

อย่างของ /v1/chat/completions ผมก็เติมๆ ตามที่มันฟ้อง + ถาม AI ประมาณนี้
import datetimeimport timeimport uuidfrom fastapi import FastAPI, Requestfrom fastapi.responses import JSONResponsefrom pydantic import BaseModelfrom typing import List, Dict, Optionalimport torchimport uuidfrom datetime import datetimefrom transformers import AutoModelForCausalLM, AutoTokenizerapp = FastAPI()# Load model and tokenizer at startupmodel_id = "microsoft/bitnet-b1.58-2B-4T"tokenizer = AutoTokenizer.from_pretrained(model_id)model = AutoModelForCausalLM.from_pretrained( model_id, torch_dtype=torch.bfloat16, force_download=True,)device = "cuda" if torch.cuda.is_available() else "cpu"model = model.to(device)class Message(BaseModel): role: str content: strclass ChatRequest(BaseModel): messages: List[Message] max_new_tokens: Optional[int] = 700class Choice(BaseModel): index: int message: Dict[str, str] finish_reason: strclass ChatResponse(BaseModel): id: str object: str created: int model: str choices: List[Choice]@app.post("/v1/chat/completions", response_model=ChatResponse)async def chat_completions(request: ChatRequest): # Prepare prompt using chat template prompt = tokenizer.apply_chat_template( [msg.dict() for msg in request.messages], tokenize=False, add_generation_prompt=True ) chat_input = tokenizer(prompt, return_tensors="pt").to(model.device) chat_outputs = model.generate(**chat_input, max_new_tokens=request.max_new_tokens) response = tokenizer.decode( chat_outputs[0][chat_input['input_ids'].shape[-1]:], skip_special_tokens=True ) # Return response in OpenAI-compatible format # return JSONResponse({ # "id": f"chatcmpl-{uuid.uuid4().hex[:12]}", # "object": "chat.completion", # "created": int(time.time()), # "model": model_id, # "choices": [ # { # "index": 0, # "message": { # "role": "assistant", # "content": response # }, # "finish_reason": "stop" # } # ] # }) return ChatResponse( id=f"chatcmpl-{uuid.uuid4().hex[:12]}", object="chat.completion", created=int(time.time()), model=model_id, choices=[ Choice( index=0, message={"role": "assistant", "content": response}, finish_reason="stop" ) ] )@app.get("/")def root(): """Root endpoint with API info""" return JSONResponse({ "message": "OpenAI-Compatible API for Open WebUI", "version": "1.0.0", "endpoints": { "models": "/v1/models", "chat": "/v1/chat/completions", "health": "/health" } })@app.get("/health")def health_check(): """Health check endpoint""" return JSONResponse({"status": "healthy", "timestamp": datetime.now().isoformat()})@app.get("/v1/models")def list_models(): """List available models""" return JSONResponse({ "data": [ { "id": model_id, "object": "model", "created": datetime.now().isoformat(), "owned_by": "microsoft", "permission": [] } ] })
ตอนใช้งานผมทำเป็น Docker ไว้ ตอน Build แอบช็อคกับขนาดเกือบ 10 GB

ลองใช้งานจริงและ เชื่อมกับ Open WebUI ลองไว และ CPU พุ่ง 55

จบการลองแบบงูปลาๆ และ ถ้าเจอที่ดีกว่า เดี๋ยวมาเขียน Blog ต่ออีกทีครับ ทักมาแนะนำได้ครับ สำหรับ Code ทั้งหมด ผม Up อยู่ใน Git แล้วครับ github.com/pingkunga/python_mi…


mastodon - Link to source
เทศกาลวัฒนธรรมและการท่องเที่ยวหูหนาน ประจำปี 2568 เปิดฉาก ณ เมืองเซียงถาน https://digitalmore.co/เทศกาลวัฒนธรรมและการท่/

เทศกาลวัฒนธรรมและการท่องเที่ยวหูหนาน ประจำปี 2568 เปิดฉาก ณ เมืองเซียงถาน | Digital More

เทศกาลวัฒนธรรมและการท่องเที่ยวสีแดงแห่งหูหนาน ประจำปี 2568 (2025 Hunan Red Tourism and Culture Festival) และการประชุมด้านการพัฒนาการท่องเที่ยวเซียงถาน ครั้งที่ 4 (4th Xiangtan Tourism Development Conference) จัดขึ้นที่อำเภอเส้าซาน เมืองเซียงถาน มณฑลห…
kampayy (DigitalMore)

mastodon - Link to source

Lossless Scaling Frame Gen gets a Decky Loader Steam Deck plugin but there's drama gamingonlinux.com/2025/07/loss…

#LosslessScaling #SteamDeck #SteamOS #Linux


Lossless Scaling Frame Gen gets a Decky Loader Steam Deck plugin but there's drama

There's some drama in Steam Deck land with a Decky Loader plugin, that works with Lossless Scaling Frame Generation from the new lsfg-vk project for Linux.
Liam Dawe (GamingOnLinux)
#linux #SteamDeck #steamos #losslessscaling
in reply to Liam @ GamingOnLinux 🐧🎮

mastodon - Link to source

Von Xylofon

The thing is that I »know« what it says, but tech headings these days have become such a mumbo jumbo shorthand of previously unrelated words that even connecting which words go together is a feat. 🙂

And I'm saying that as someone who has read tech headings since 2000. Maybe I'm just old, and you kids should get off my lawn...

IF I HAD ONE 😬

mastodon - Link to source

ในที่สุดก็สร้าง keyboard layout อักษรธรรมอีสานบน Windows ได้
github.com/thep/lanxang/commit…

พยายามทำตามสเปคโดยเริ่มจาก locale builder แต่ MS ไม่รองรับอะไรเกี่ยวกับ Tai Tham เลย สุดท้ายจบที่ยืมโลแคลมลยาฬัมแทน แปลกๆ หน่อย แต่ก็ใช้ป้อนอักษรธรรมได้ :P

แต่มันแปลกที่ MS ออกแบบให้ keyboard layout ต้องอิงโลแคล โดยที่โลแคลระบุได้แค่ "ภาษา" กับ "ดินแดน" ระบุ "อักษร" ก็พอได้ แต่ไม่มี Tai Tham ให้เลือก และถึงจะเลือกอักษรได้ พอใช้เขียน "ภาษาไทย" ใน "ประเทศไทย" มันก็จะซ้ำกับโลแคลไทยอักษรไทยอยู่ดีนะ -"-


Add Windows KLC file · thep/lanxang@b56db00

* win/tham.klc: - Added KLC source for building keyboard layout using Microsoft Keyboard Layout Creator (MSKLC) 1.4.
GitHub

mastodon - Link to source

Open source Medal of Honor: Allied Assault adds better bots and a new master server for online play gamingonlinux.com/2025/07/open…

#MedalofHonor #MoHAA #FPS #Retro #Gaming #PCGaming #LinuxGaming


Open source Medal of Honor: Allied Assault adds better bots and a new master server for online play

Fancy some Medal of Honor: Allied Assault on modern systems with online play? OpenMoHAA is what you need to check out.
Liam Dawe (GamingOnLinux)
#gaming #pcgaming #linuxgaming #fps #retro #medalofhonor #mohaa

mastodon - Link to source
ลูกปืนเสีย เครื่องก็เสีย! 5 ข้อผิดพลาดที่ต้องเลี่ยงให้ไว https://digitalmore.co/ลูกปืนเสีย-เครื่องก็เสี/

ลูกปืนเสีย เครื่องก็เสีย! 5 ข้อผิดพลาดที่ต้องเลี่ยงให้ไว | Digital More

บทความนี้จะพาไปดูว่า 5 ข้อผิดพลาดที่พบบ่อยเกี่ยวกับการใช้ลูกปืนมีอะไรบ้าง และจะหลีกเลี่ยงอย่างไรให้เครื่องจักรอยู่กับเราไปได้นานๆ แบบไม่ต้องปวดหัวกับการซ่อม
Pannaphat Kosasaeng (krapalm) (DigitalMore)

mastodon - Link to source

Split-screen game launcher for Linux / SteamOS adds support for multiple keyboards and mice gamingonlinux.com/2025/07/spli…

#Linux #Coop #Gaming #OpenSource #SteamOS


Split-screen game launcher for Linux / SteamOS adds support for multiple keyboards and mice

PartyDeck is a free and open source split-screen game launcher for Linux / SteamOS, and the latest release sounds great.
Liam Dawe (GamingOnLinux)
#opensource #linux #gaming #steamos #coop
This entry was edited (2 weeks ago)

mastodon - Link to source

Original Anime "Grow Up Show ~Himawari no Circus-dan~" โดย A-1 Pictures x Psyde Kick Studio จะมาภายในปี 2026

กำกับ: Kanta Kamei
บท: Takeshi Kikuchi
ออกแบบตัวละคร: อ.Kurehito Misaki (วิธีปั้นสาวบ้านให้มาเป็นนางเอกของผม Saenai Heroine no Sodatekata)

#growupshow

#growupshow

mastodon - Link to source

System76 reveal the new Adder WS laptop, their "most affordable" powerhouse gamingonlinux.com/2025/07/syst…

#System76 #Linux


System76 reveal the new Adder WS laptop, their "most affordable" powerhouse

Linux hardware vendor and Pop!_OS Linux distribution developer System76 have revealed the Adder WS laptop, and it's quite powerful.
Liam Dawe (GamingOnLinux)
#linux #system76

mastodon - Link to source
การบวชพระในไทย สักกี่เปอร์เซ็นต์ที่อยากศึกษาพระธรรม ส่วนใหญ่ก็บวชให้คนนั้นคนนี้ตอบแทนบุญคุณ บวชเพราะบ้านจน ลดภาระผู้ปกครอง บวชเพราะพ่อแม่อยากดัดนิสัย ฯลฯ แล้วก็แรงจูงใจให้ิยต่อไปคือลาภยศสรรเสริญ

mastodon - Link to source

GE-Proton 10-9 released with NTSYNC and FSR4 upgrade support gamingonlinux.com/2025/07/ge-p…

#Linux #OpenSource #GEProton #Proton #SteamOS #SteamDeck


GE-Proton 10-9 released with NTSYNC and FSR4 upgrade support

GE-Proton 10-9 is out now with some exciting sounding new features like NTSYNC and FSR4 upgrade support for gamers on Linux, SteamOS and Steam Deck.
Liam Dawe (GamingOnLinux)
#opensource #linux #SteamDeck #proton #steamos #GEproton

mastodon - Link to source
Trump: Ukraine erhält Patriot-Systeme, EU soll dafür bezahlen tichyseinblick.de/kolumnen/aus… Trump: Ukraine erhält Patriot-Systeme, EU soll dafür bezahlen US‑Präsident Donald Trump hat angekündigt, der Ukraine mehrere Patriot‑Luftverteidigungssysteme zu liefern – allerdings auf Rechnung Europas: „Wir werden ihnen Patriots schicken, die sie dringend brauchen. Die EU wird dafür 100 Prozent bezahlen.“ Trump

Trump: Ukraine erhält Patriot-Systeme, EU soll dafür bezahlen

US‑Präsident Donald Trump hat angekündigt, der Ukraine mehrere Patriot‑Luftverteidigungssysteme zu liefern – allerdings auf Rechnung Europas: „Wir werden ihnen Patriots schicken, die sie dringend brauchen. Die EU wird dafür 100 Prozent bezahlen."
Fritz Goergen (Tichys Einblick)

mastodon - Link to source

"พอกันทีกับการ บีบให้จนแล้วแจก
กดให้โง่แล้วปกครอง ปล่อยให้ป่วยแล้วรักษา
ภาษีควรจะกระจายอย่างเป็นธรรมเพื่อไปแก้ปัญหา
ให้ทุกๆชีวิตในประเทศอย่างตรงจุด
ไม่ใช่ใช้อำนาจรวบไว้ที่เดียว
แล้วค่อยแจกกลุ่มเป้าหมายเพื่อสร้างบุญคุณ
ให้ระบบนี้อยู่ไปเรื่อยๆ" - สส.รัชนก

facebook.com/share/p/1C7PVMF5X…

รักชนก ศรีนอก - Rukchanok Srinork

กระทรวงเกษตรและสหกรณ์ เป็นหัวใจสำคัญในการขับเคลื่อนเศรษฐกิจของประเทศไทย เพราะประมาณ 29% ของแรงงานทั้งหมดในประเทศไทยอย
www.facebook.com

mastodon - Link to source
Germany Refuses to Send Taurus Missiles to Ukraine Despite Fresh Appeal sputnikglobe.com/20250714/germ… MOSCOW (Sputnik) - German Defense Minister Boris Pistorius said in an interview that Berlin will not supply Taurus missiles or Patriot air defense systems to Ukraine, despite Kiev's renewed request. #news #press

Germany Refuses to Send Taurus Missiles to Ukraine Despite Fresh Appeal

Sputnik International
#News #press

mastodon - Link to source

Wine 10.12 brings EGL backend in the X11 driver, support for Bluetooth Low Energy services gamingonlinux.com/2025/07/wine…

#OpenSource #Wine #Linux


Wine 10.12 brings EGL backend in the X11 driver, support for Bluetooth Low Energy services

Wine 10.12 is out now as the latest development release towards Wine 11, bringing new features and bug fixes for running Windows apps / games on Linux.
Liam Dawe (GamingOnLinux)
#opensource #linux #wine

plume - Link to source

Premium Tiles vs. Standard Tiles: Why Quality Matters


 A good tiles supplier will guide you based on your project’s goals, not just the price tag. If they can’t explain the differences clearly, find someone who can.

Walk into a tile shop, and you’ll soon wonder: “Why do some tiles cost so much more than others?” Two tiles might look nearly identical, yet one is priced much higher. Is “premium” just a buzzword from the tiles supplier, or is there a real difference? Let’s break it down.

Built for Strength


At first glance, premium tiles and standard tiles might seem similar—same size, same color, same basic look. But their construction is where they diverge. Premium tiles are denser, pressed with more force, and fired at higher temperatures. This makes them more resistant to moisture, cracks, and wear, making them ideal for busy areas like kitchens, bathrooms, or entryways.

Standard tiles can work in low-traffic spots, but they often show wear—chips, cracks, or fading—faster in demanding spaces.

Performance That Endures


Premium tiles are designed to handle life’s challenges. Their finishes provide better grip on wet surfaces, resist stains from spills like wine or oil, and stand up to scratches from furniture or foot traffic. Standard tiles might look fine at first, but they can dull, stain, or scuff up quicker than expected, especially in high-use areas.

These differences become clear over time, as cheaper tiles start to lose their charm.

Consistency for a Seamless Look


Premium tiles are crafted with precision, ensuring each tile is nearly identical in size, shape, and shade. This leads to clean grout lines and a polished installation. Standard tiles, however, can vary slightly from batch to batch, which can disrupt your layout or throw off a pattern, especially in large or intricate designs.

These small inconsistencies can turn a smooth project into a frustrating one.

Quality from the Source


Premium tiles often come from regions with a rich tile-making tradition, like Italy, Spain, or parts of Turkey, where high-quality materials and strict standards are standard. Standard tiles are frequently mass-produced to keep costs low, sometimes at the expense of quality.

A reliable tiles supplier will be transparent about these differences and help you choose based on your project’s needs. If they push the priciest option without explanation, it’s time to shop elsewhere.

Less Upkeep, More Longevity


Premium tiles are built to last with minimal maintenance. They resist stains, wear, and fading, keeping their look for years. Standard tiles often require more care—frequent sealing, extra cleaning, or earlier replacement—which can add up over time.

While standard tiles are cheaper upfront, their higher upkeep costs can make them less of a bargain in the long run.

The Right Tile for the Space


Your choice depends on where the tiles are going. Premium tiles are perfect for high-traffic or wet areas like bathrooms, kitchens, or patios, where durability is key. For low-use areas like a guest room or a decorative backsplash, standard tiles might suffice—if you’re okay with their limitations.

A Premium Feel


Premium tiles feel different—solid, smooth, and well-made. Standard tiles can feel thin or rough, with edges that might seem cheap. These subtle differences affect how a space feels, much like high-quality furniture elevates a home.

The Bottom Line


Premium tiles aren’t always necessary, but they shine in durability, consistency, and ease of care. For spaces that see heavy use or need to last for years, they’re a smart investment.

A good tiles supplier Singapore will guide you based on your project’s goals, not just the price tag. If they can’t explain the differences clearly, find someone who can.

Tiles are about more than looks—they’re about how they perform over time. That’s where premium tiles consistently come out on top.

Articles tagged "Tiles" ⋅ Plume

fediverse.blog
#Tiles

mastodon - Link to source
USA werden Patriot-Abwehrraketen an die Ukraine liefern apollo-news.net/usa-werden-pat… Entgegen früherer Zurückhaltung hat US-Präsident Donald Trump nun doch angekündigt, dass die Vereinigten Staaten der Ukraine dringend benötigte Patriot-Luftabwehrsysteme zur ...
The post USA werden Patriot-Abwehrraketen an die Ukraine liefern appeared first on Apollo News. #news #press

USA werden Patriot-Abwehrraketen an die Ukraine liefern - Apollo News

Die USA werden jetzt doch Patriot-Abwehrraketen an die Ukraine senden. Finanziert wird das von der Europäischen Union. Mit den Abwehrsystemen will die Ukraine sich gegen die russischen Drohnenangriffe auf die ukrainischen Städte wappnen.
Jerome Wnuk (Apollo News)
#News #press
⇧