THIS IS ELLIE

안녕하세요 :)오늘은 애플 Foundation Models을 활용해서 streaming output 방식으로 간단한 Recipe Generator을 만들어볼게요 그전에 streaming output이 뭐냐??non-streaming output(batch output)은 모델이 전체 응답을 다 생성한 후 한 번에 결과를 보내주는 방식이고streaming output은 모델이 응답을 생성하면서 결과를 계속해서 보내주는 방식이에요 Apple의 Foundation Models에서는streaming 방식을 활용할 수 있도록 PartiallyGenerated를 제공해줘요Partially Generated - 이름만 봐도 알 수 있듯이 한번에 응답을 보내주는게 아니라 응답을 만들어 낼때마다 보내주기 때문에 UI를 ..

Tool Calling이란? Foundation Models에 외부 도구를 알려주고, 모델이 이를 직접 호출할 수 있도록 해주는 기능이에요 왜 Tool calling이 필요한가?일반적인 언어 모델은 학습된 시점의 지식에 한정되어 있어요하지만 Tool calling을 활용하면 실시간 정보도 가져올 수 있고, 날씨, 지도, 캘린더 등 디바이스 기능을 활용할 수 있어요 protocol ToolTool은 프로토콜을 살펴보면 Sendable프로토콜을 준수하고 있어요이유는 Foundation Models 프레임워크가 Tool을 concurrency 환경에서 실행하기 때문이에요protocol Tool : Sendable따라서 Tool은 스레드-세이프하게 사용되도록 보장되어야 해요애플 문서에 있는 예제를 조금 바꿔서 ..

스위프트에서 @Generable 매크로를 구조체 structure나 열거형 enum에 적용하면, Foundation Model이 프롬프트를 해석해 해당 타입의 인스턴스를 생성할 수 있어요또한 @Guide 매크로를 통해 프로터피에 대한 자연어 설명을 추가할 수 있는데요, 이를 통해서 모델이 어떤 값을 생성해야 하는지 힌트를 얻고, 생성 결과를 컨트롤할 수 있어요 이전에 만들었던, Grammar Correction에 correctSentence()코드를 조금 수정해 볼게요 func correctSentence() async { isLoading = true correctionResult = "" errorMessage = nil UIApplication.shared.sendAction(..

안녕하세요 :)오늘은 애플 Foundation Models 프레임워크를 활용해서 간단한 Grammar Correction(문법 교정하는거?)을 만들어보려고 해요시작하기 전에, Foundation Models를 사용하기 위한 몇 가지 요구사항이 충족되어야 하는데이 글을 읽기 전에 내 환경에서 사용 가능한지 먼저 확인해 보시는 걸 추천드립니다!@State 프로퍼티 정의@State private var userInput: String = ""@State private var correctionResult: String = ""@State private var isLoading = false@State private var errorMessage: String?총 4개의 @State변수를 사용하고 있어요user..

안녕하세요 :) 애플에서 제공하는 온디바이스 LLM인 Foundation Models를 이용해서 간단한 챗봇을 만들어 볼게요시작하기 전에 , Foundation Models를 사용하기 위한 몇 가지 요구사항이 있는데요이 글을 읽기 전에 내 환경에서 사용 가능한지 먼저 확인해 보시는 걸 추천드립니다!ChatView먼저 뷰에서 사용할 세 가지 프로퍼티를 선언해줬어요@StateObject private var viewModel = ChatViewModel()@FocusState private var isInputFocused: Bool@State private var lastMessageID: UUID?viewModel은 채팅 메세지와 입력 상태 등을 관리하기 위한 뷰모델 인스턴스이고isInputFocused..

프롬프트 작성 모범 사례모델이 생성하는 콘텐츠의 양은 프롬프트로 직접 조절할 수 있어요(예: In a single paragraph, In three sentences 등)프롬프트에 역할을 명시함으로써 스타일과 어투를 조절할 수 있어요이와 같이 모델은 프롬프트에 따라 다양한 역할을 수행할 수 있어요 Prompting best practices프롬프트는 명확한 명령어처럼 작성하세요모델은 하나의 구체적인 작업을 수행할 때 가장 잘 동작해요또, 원하는 출력 예시를 4개 미만으로 직접 프롬프트 안에 작성하면 효과를 높일 수 있어요해야 할 일을 강조할 때는 대문자로 MUST, 하지 말아야 할 일을 강조할 때는 대문자로 DO NOT 이런 식으로 단호한 어조로 사용해 보세요 Xcode #Playground 활용하기프..

prompt 프롬프트란?생성형 AI 모델에 입력하는 텍스트를 의미해요이 텍스트는 모델의 응답을 유도하는 역할을 하며, 자연어로 즉 동료에게 메시지 보내듯 작성하면 돼요프롬프트 예시: Generate a bedtime story about a fox(예시에선 영어로 작성했지만, Apple Intelligence가 지원하는 언어 암거나 가능해요)한국어도 공식적으로 지원하므로, 한국어도 사용할 수 있어요여튼, 이 프롬프트를 Language Model Session에 입력하면 모델은 이에 관련된 동화를 만들어내요 온디바이스 LLM 작동 방식애플의 Foundation Models프레임워크에서는, 프롬프트가 온디바이스 LLM로 전달되어요LLM은 텍스트를 이해하고 생성할 수 있는 모델이고이는 general purpo..

안녕하세요 :) 애플이 Xcode 26부터 지원해 주는 playground 매크로덕에,FoundationModels 프레임워크를 테스트하기가 너무 편하더라구요await, try, throws 등과 같은 비동기/동기 코드도 지원하고전체 앱 빌드 없이도 코드 스니펫만 빠르게 실행할 수 있어서요이 playground 매크로를 활용해서 FoundationModels을 테스트해보려고 해요 FoundationModels프레임워크를 사용해 온디바이스 LLM을 실행하고,프롬프트에 대한 응답을 생성하는 아주 간단한 예제를 실행해봤어요LanguageModelSession은 애플의 FoundationModels프레임워크에서 사용하는 객체로,온디바이스에서 LLM을 실행하고 세션 단위로 제어할 수 있게 해주는 클래스예요프롬프트..