MinDong @petanerd

As an AI Infrastructure Engineer Please learn: - GPU architecture, VRAM fundamentals, CUDA & memory hierarchy - Quantization (INT8/FP8/4-bit), batching & continuous batching - vLLM, TensorRT-LLM, SGLang, llama.cpp & inference optimization - KV caching, speculative decoding, prefix caching & token throughput - Distributed training (DDP, FSDP, DeepSpeed, ZeRO) - Model serving (Triton, vLLM, KServe, Ray Serve, SGLang) - Kubernetes, Docker & GPU orchestration - NCCL, InfiniBand & high-speed networking - Multi-GPU & multi-node inference - LoRA, QLoRA, PEFT & fine-tuning pipelines - Vector databases, embeddings & RAG pipelines - Prompt caching, semantic caching & cost optimization - Observability (OpenTelemetry, Prometheus, Grafana, Langfuse, Phoenix) - LLM evaluation, benchmarking & A/B testing - Model routing & fallback strategies - MCP, AI agents & workflow orchestration - Data pipelines, Kafka & streaming inference - Security, guardrails & prompt injection mitigation - CI/CD for ML (MLOps), MLflow & model registries - Linux, networking & storage fundamentals

@PyTorchKR #토치야호 #torchyaho #파이토치데이 #2026 #PyTorchDay2026 #PyTorchDay #파이토치 #PyTorch #PyTorchKR

PyTorch Day Korea 2026! 올해 슬로건과 일자를 공개합니다! 🌟 “Torch YAHO!” 🌟 2026.10.31 - 센터필드 이스트 18층 AWS 코리아 교육장 PyTorch를 사용하는 연구자, 엔지니어, 개발자들이 모여 모델 개발부터 최적화, 서빙, AI Application까지 이어지는 다양한 경험을 함께 나눕니다. (1/3)

좋은 연구주제 잡는 법: 0. 우선 연구 목적을 명확히 한다. 논문만 나가면 되는지 (이때 어느 레벨로 논문이 나가야하는지), 공부만 하면 되는지, 자기만족인지, 진짜 연구인지 순으로 나뉜다. 순서가 이상해보일 수 있지만, 이 순서가 맞다는 게 (핵심1)이다. 우선 방법 1번부터 타래에 이어 씀.

제이미 @theeluwin

4 weeks ago

학부연구생 2년차면 아직 3~4학년이라는 뜻인데... 좋은 연구 주제 잡기는 박사과정 3~4년차에게도 어렵습니다. 이건 사실 지도교수님이 좀 더 신경써주셔야 하는 부분이 맞습니다. 그런데 아이디어라는건 보통 실패한 실험에서 ... spin-spin.com/q/6a3132247861…

1 15 120 190K 56

x.com/i/article/2064…

我真的笑快去世⋯⋯⋯⋯⋯ 百變怪居然出茶具組 我要發瘋🤣🤣🤣

순천만 국가정원 스탬프찍으러 왔는데 정말 너무너무 좋았음!

keyboard_arrow_left Previous keyboard_arrow_right Next

software engineers before vs after agents

keyboard_arrow_left Previous keyboard_arrow_right Next

AI agents without guardrails aren't powerful, but they're risky. 9 layers every team needs before going to production... AI agents are only as reliable as the guardrails behind them. This is no longer optional; it's the difference between scaling safely or failing fast. Here are the essential guardrails every AI agent needs today: 1/ Content Filtering: Input + Output Stops harmful, sensitive, or non-compliant data before it enters or leaves your system. 2/ Input Validation: Query Stage Prevents prompt injection, enforces schema rules, and ensures structured inputs reach the agent clean. 3/ Intent Recognition Understands what the user actually wants, critical for correct tool routing and planning decisions. 4/ Rule-Based Checks: Pre-Processing Lightweight filters (regex, limits, constraints) that catch edge cases before reasoning even starts. 5/ Hallucination Detection: SLMs + Evaluators Flags low-confidence or fabricated outputs before they ever reach a user. 6/ Safety Classification: Specialized Models Classifies queries in real-time to block unsafe or restricted actions at the gate. 7/ Moderation Layers: APIs + Internal Models Adds redundancy across input and output because one layer is never enough in production. 8/ Output + Format Validation Ensures responses are usable (JSON, SQL, API-ready) and won't break downstream systems. 9/ Sensitive Data Detection: PII + Secrets Prevents leakage during both retrieval and generation. Non-negotiable for any enterprise RAG pipeline. 📌 What's shifted from 2025 to 2026: * Guardrails are now multi-layered systems, not single filters * Real-time evaluators and agent monitoring frameworks are standard * Policy-aware agents with compliance baked into logic, not bolted on * SLMs handling safety tasks faster, cheaper, purpose-built * "Defense-in-depth" is the architecture pattern enterprises are adopting Save 💾 ➞ React 👍 ➞ Share ♻️ & follow for everything related to AI Agents.

Minha prima é crocheteira . Pedi pra ela fazer ,um descanso de copo pra colocar na mesa do computador, Ela me vem com esse kkkkk

keyboard_arrow_left Previous keyboard_arrow_right Next

Ever suspected a paper you’re reading is AI slop? You can now turn on AI detection mode on alphaXiv to visualize what is written by an AI and what is not. Now available for every research paper indexed on arXiv. Integrated with the latest detection model from @pangram 🚀

@jun_song 안녕하세요. 원본 26b나 31b에는 오디오 모달리티가 없던데 혹시 파인튜닝으로 해당 모달리티를 추가하고 정렬하실 계획도 있으실까요?

This is Algebrica. A mathematical knowledge base I’ve been building for 2.5 years. 215+ entries, carefully written and structured. 400k+ views over this time. Not much in absolute terms, but meaningful to me. No ads. No courses to sell. No gamification. No distractions. Just essential pages, aiming to explain mathematics as clearly as possible, for a university-level audience. Built simply for the pleasure of sharing knowledge. Content licensed under Creative Commons (BY-NC). Best experienced on desktop. If it helps even a few people understand something better, it’s worth it.

#이벤트 11월 11일 빼빼로데이? ‼️🍟K-MEX 김치 프라이즈 데이 🍟‼️ RT 하면 K-MEX 김치 프라이즈가 찾아갑니다 😎 @cucharakorea 팔로우 + #RT 🎁 5명 당첨! 📆 이벤트 기간: 11.11 ~ 11.17 (당발 11.19) 지금이 바로, 김치프라이즈 타이밍 😉 #쿠차라 #Cuchara #Kmex김치프라이즈 #신메뉴 #RTevent #빼빼로데이대신김치프라이즈 #멕시칸푸드

@cucharakorea 오픈 첫날 첫끼는 부리또볼 스테이크+ 까르니따스 더블고기에 풀토핑 +과카몰 추가로 풍부하게 누리기! 카드지갑과 타바스코소스 미니어쳐 감사합니다:)

@cucharakorea 쿠차라 상품권을 받았는데 다음주에 회사앞에 쿠차라가 오픈을 한다? 이건 운명이라고 봅니다..😻 #cuchara #쿠차라 #부리또볼 #멕시칸푸드

이제 쿠차라는 상암동에서 더가까워!! 회사앞 쿠세권!!

쿠차라 @cucharakorea

9 months ago

#RT #이벤트 요즘 예능 속 멕시코 여행 보니까… ✈️ 굳이 비행기 안 타도 돼. 🌮 K-Mexican, 쿠차라 TIME! @cucharakorea 팔로우 + #RT = 랜덤 쿠차라 기프티콘(5명) 🎁 어떤 메뉴가 도착할지 몰라요 😉 📅 이벤트 기간 : ~11.5일 까지 #쿠차라타임 #멕시칸맛집 #쿠차라 #RT이벤트

3 15 8 1K 1

프롬프트에 악의적 의도는 AI 브라우저에서도 작동될 수 있음. AI 어시스턴트는 스크린샷을 찍고 이걸 사용자에게 분석해줌. 문제는 스크린샷을 찍은 웹페이지에 숨겨진 지침도 따른다는 것. 여기서 문제가 생기는데 AI가 사용자의 인증된 권한으로 행동할 수 있다는 것.

GeekNews @GeekNewsHada

9 months ago

로컬 LLM의 보안 역설 - 로컬 환경에서 프라이버시 보호를 위해 LLM을 사용하는 개발자들이 오히려 보안 취약성에 노출될 수 있다는 연구 결과가 제시됨 - 연구팀은 `gpt-oss-20b` 모델을 대상으로 한 OpenAI Red‑Teaming Challenge 실험에서, 로컬 모델이 공격자의 프… news.hada.io/topic?id=23862

0 35 69 14K 49

목동에도 출몰해주세요!

쿠차라 @cucharakorea

9 months ago

#쿠차라 출몰 지역 삼성서초사옥점 · 합정역점 · 타임스퀘어점 · 잠실역점 · 코엑스몰오크우드점 · SFC점 · 서소문퍼시픽타워점 · 판교카카오점 · 광화문점 → 쿠차라와 함께, 영토 확장 중😎 다음 핀 어디 찍을까요? #팔로우 + #인용RT 해주시면 10분께 쿠차라 2만원 쿠폰 갑니다💸 (~10/23까지)

3 11 17 14K 0