1. 자연어 처리, 머신러닝, 뉴럴네트워크, 딥러닝
딥러닝은 초거대 언어 모델을 사용하여 컴퓨터가 인간의 언어를 이해하고 처리할 수 있는 능력을 갖출 수 있는 기계학습 방법론이다.
딥러닝은 큰 모델을 만들고 특정 태스크에 맞게 미세조정하여 사용한다.
이러한 접근 방식은 인간의 언어를 잘 이해하고 처리할 수 있는 컴퓨터 시스템을 개발하는 핵심 기술
기계학습에서 인간의 뇌 신경망 구현한 것이 뉴럴 네트워크→이것을 더 깊게(Deep) 만들면 딥러닝
딥러닝을 구현하여 분류를 더 잘할 수 있음
딥러닝에서 학습은 수많은 파라미터들(입력값 들)의 최적값을 찾아가는 과정이다.
딥러닝은 히든 레이어가 엄청 많은(깊은) 것을 말함
히든 레이어가 많아지면 비선형 분류(곡선으로 분류)가 가능
딥러닝이 좋은 이유는 비선형 분류가 가능(최적의 분류 가능)
딥러닝 기반 대규모 언어 모델로 만든 것이 ChatGPT이다.
딥러닝은 데이터가 많아지면 많아질수록 성능 향상을 기대할 수 있다.
AI System = Code(Model/Algorithm) + Data
2. 빅 모델, 대규모 언어 모델, 생성형 인공지능
큰 모델을 하나 만들어서 모든 처리를 이곳에서 끝내자. → Big Model 방법론
질 좋은 육수(Big Model)를 하나 만들고, 양념만 섞어서 다양한 국물을 만들자.
구글이 이때 Transformer를 만듦. Model의 통합짱 탄생
이젠 데이터 수집 전쟁
Transformer = 대중이 만든 데이터(Pre-trained) + 전문가가 만든 데이터(Fine-tuned) 기반의 NLP
Transformer는 Encoder(문장을 분류:구글의 BERT)와 Decoder(텍스트 생성:ChatGPT) 분리 가능
구글은 Encoder에 집중해서 언어모델 BERT 개발
ChatGPT는 Decoder에 집중해서 대화형으로 인공지능 서비스를 이용할 수 있는 ChatGPT 개발
Transformer의 Encoder는 자연어를 이해, Decoder는 자연어를 생성하는 측면애서 기능
구글은 빵꾸뽕으로 학습, 오픈AI는 현재 단어의 다음 단어 예측 연습으로 학습
결국 Big Model(Large Language Model)이 다양한 입력값(Multimodal)을 받아서 다양한 출력값(Multimodal)을 줄 수 있도록 기술 개발에 올인
멀티모달(Multimodal)과 영어에서의 모달(Modal)의 차이?
1.
영어에서의 모달:
•
영어에서의 "모달(modal)"은 앞서 언급한 것처럼 동사 앞에 사용되어 동사의 의미나 뉘앙스를 조절하는 동사입니다. 이것은 영어 문법과 언어학 관점에서 다루는 주제입니다.
2.
멀티모달:
•
멀티모달(Multimodal)은 여러 다른 미디어 형태, 예를 들면 텍스트, 이미지, 비디오, 음성 등 다양한 매체를 함께 사용하여 정보를 전달하거나 처리하는 것을 의미합니다. 멀티모달 접근법은 컴퓨터 비전, 음성 인식, 자연어 처리, 기계 학습 등 다양한 인공지능 분야에서 활용됩니다. 예를 들어, 인공지능은 이미지와 텍스트를 모두 이해하여 이들을 연결하거나 종합하여 더 풍부한 정보를 추출하려는 노력을 기반으로 합니다.
따라서 멀티모달과 영어에서의 모달은 서로 관련이 없는 두 가지 다른 개념이며, 각각 다른 문맥에서 사용됩니다. 멀티모달은 인공지능 및 정보 처리 분야에서 중요한 주제이며, 영어에서의 모달은 언어 학습과 문법에 관한 주제입니다.
그래서 무엇이 중헌디?
Garbage in Garbage out
쓰레기를 넣으면 쓰레기가 나온다.
Data = Prompt = Money
3. 프롬프트, 토큰
Prompt?
Prompt란 사용자가 인공지능 모델에게 제시하는 입력 텍스트 또는 질문을 의미합니다. ChatGPT의 경우, 입력된 Prompt에 따라 모델이 응답을 생성하게 됩니다. Prompt는 모델이 이해하고 처리해야 할 정보를 제공하는 역할을 합니다. Prompt를 잘 구성하면 모델의 응답이 원하는 대답에 가까워질 수 있습니다. 예를 들어, "배고파요. 뭐 먹을까요?"라는 Prompt를 입력하면 모델은 음식에 관련된 대답을 생성할 수 있습니다. 하지만 Prompt를 이해하기 위해서는 해당 언어의 문법과 사용법을 잘 이해해야 합니다. Prompt를 효과적으로 활용하면 ChatGPT와의 상호작용을 더욱 원활하게 할 수 있습니다.
ChatGPT와 같은 생성형 인공지능 모델의 경우에는 인코더(데이터 입력, 이해)가 없고 디코더(문장 생성)만으로 구성
따라서 사용자가 초기에 직접 텍스트를 입력해 줘야(마치 인코더를 통해 데이터를 입력 받은 것 처럼) 이후의 단어를 생성
ChatGPT?
ChatGPT(made by OpenAI Company)
GPT Chatbot (챗봇)
G: Generative (단어를, 문장을, 문단을, 글을 만들어내는)
P: Pre-trained (대중들이 만든 데이터로 학습한)
T: Transformer(Encoder(X) + Decoder(0) Prompt가 있어야 작동을 시작하는)
토큰?
토큰 수는 ChatGPT 모델의 용량을 나타내며, 약 4096개의 토큰을 가지고 있습니다. 이는 ChatGPT가 한 번에 처리할 수 있는 최대 텍스트 양을 의미합니다. 초등학교 학생들이 이해하기 쉽게 설명하자면, 토큰은 ChatGPT가 읽고 이해할 수 있는 작은 단위로 생각할 수 있습니다. ChatGPT는 이러한 작은 단위들을 조합하여 문장을 이해하고 생성합니다.
챗GPT에서 영어 토큰과 한글 토큰의 크기의 차이?
영어 토큰과 한글 토큰의 크기는 초등학교 학생들에게 이해하기 쉽게 설명하면 다음과 같습니다.
영어 토큰은 작은 조각이지만, 한글 토큰은 상대적으로 큰 조각입니다.
예를 들어, 영어 단어 "cat"은 한 개의 영어 토큰으로 구성되지만, 한글로 표현된 "고양이"는 두 개의 한글 토큰으로 구성됩니다.
이는 한글이 영어보다 표현하는 글자의 수가 더 많기 때문입니다.
따라서, 동일한 문장을 표현할 때, 한글로 쓰면 토큰의 수가 더 많아집니다.
이는 챗GPT 모델이 한글을 처리하는 데 더 많은 정보와 공간을 필요로 한다는 것을 의미합니다.
요약하자면, 한글 토큰은 일반적으로 영어 토큰보다 크기가 크며, 한 글자당 토큰 수가 더 많습니다.
Prompt Engineering
Prompt Engineering?
Input or Instruction, Prompt 입력 값들의 조합을 찾는 작업
Instruction: 지시 사항, Context: 추가 정보, Input Data, Output Indicator
FCSRC Methodology(FC Seoul와 같이 발음하기 - 암기법)
Format(원하는 형식으로 요구하고)
Context(맥락을 제공하고)
Step by step(단계별로 요구하고)
Role(역할을 부여하고)
Concrete(명확하고 구체적으로 요구하고)
~로서 -을(를) 만들어서 **형식으로 단계별로 보여주세요. 상황(맥락)은 다음과 같아요.
ChatGPT Prompt Cheatsheet
12 tips for crafting effective ChatGPT prompts
12 tips for crafting effective ChatGPT prompts:
1.
Assign a specific role to ChatGPT.
2.
Be specific and give the bot one task at a time.
3.
Refine prompts based on previous outputs.
4.
Provide context and relevant details.
5.
Break down the desired output into steps.
6.
Ask ChatGPT for advice on improving the prompt.
7.
Prioritize clarity and precision in prompts.
8.
Use a thesaurus to find precise words.
9.
Pay attention to verbs that clearly express intent.
10.
Be polite and direct in communication.
11.
Check and tweak the copy's tone and reading level.
12.
Feed ChatGPT an outline for longer posts.
Tone and Manner(어조와 태도)에 대한 팁
Prompt Example
MiniLIbX를 이용해서 C언어로 오목게임을 만들어줘.
MiniLibX :
MiniLibX는 macOS와 Linux에서 사용할 수 있는 단순한 그래픽 라이브러리로, 주로 C나 C++로 작성된 프로그램에서 그래픽 관련 작업을 수행할 때 사용됩니다.
이 라이브러리는 42 Paris (formerly 42 School)에서 개발되었습니다.
주로 유닉스 기반 시스템에서 그래픽 환경 없이 C 프로그래밍으로 그래픽 애플리케이션을 개발할 수 있도록 도와줍니다.
MiniLibX는 X Window System의 간소화된 버전으로 볼 수 있으며, X Window System 라이브러리를 사용하여 그래픽 작업을 처리합니다.
MiniLibX는 간단하고 직관적인 API를 제공하여 다음과 같은 함수를 포함하고 있습니다:
1. **`mlx_init`**: MiniLibX 라이브러리를 초기화합니다.
2. **`mlx_new_window`**: 새로운 창을 생성합니다.
3. **`mlx_pixel_put`**: 지정된 좌표에 픽셀을 그립니다.
4. **`mlx_loop`**: 이벤트 루프를 시작합니다. 이벤트 루프는 창의 닫기 버튼 등의 이벤트를 감지하고 처리하는 역할을 합니다.
5. **`mlx_loop_hook`**: 루프를 실행하는 동안 호출될 함수를 등록합니다. 이 함수는 주기적으로 호출되어 애니메이션과 같은 반복 작업을 처리하는 데 사용됩니다.
6. **`mlx_key_hook`**: 키 이벤트(키보드 입력)를 처리하는 함수를 등록합니다.
7. **`mlx_mouse_hook`**: 마우스 이벤트를 처리하는 함수를 등록합니다.
8. **`mlx_hook`**: 다양한 이벤트를 처리하기 위한 범용 함수를 등록합니다.
9. **`mlx_clear_window`**: 창의 내용을 지웁니다.
10. **`mlx_destroy_window`**: 창을 닫고 관련된 자원을 해제합니다.
위의 함수들은 MiniLibX 라이브러리를 사용하여 간단한 그래픽 애플리케이션을 작성할 때 가장 자주 사용되는 함수들입니다.
그 외에도 몇 가지 추가적인 함수들이 더 있을 수 있습니다.
따라서 MiniLibX를 사용하려면 해당 라이브러리의 문서와 예제를 참조하는 것이 좋습니다.
오목:
오목은 전통적인 전략 보드 게임으로, 두 명의 플레이어가 번갈아가며 돌을 놓아 15x15 크기의 게임 보드에서 승리를 결정하는 게임입니다.
오목은 동방에서 기원한 게임으로 중국에서는 "고" 또는 "위지"라고도 불립니다.
규칙은 간단합니다.
흑과 백이라고 하는 두 가지 색상의 돌이 사용되며, 흑이 먼저 돌을 놓습니다.
각 플레이어는 돌을 놓을 위치를 선택하여 게임 보드에 둡니다.
돌은 가로, 세로, 또는 대각선 방향으로 연속된 5개의 돌을 놓으면 승리합니다.
이렇게 연속된 5개의 돌을 만드는 것을 '오목'이라고 합니다.
플레이어들은 자신의 돌을 놓음으로써 상대방이 연속된 5개의 돌을 만들지 못하도록 방해하는 전략을 사용해야 합니다.
경기는 두 플레이어가 돌을 놓을 수 없게 될 때까지 계속됩니다.
보드가 모두 차거나 오목이 만들어지면 게임이 종료됩니다.
오목은 단순한 규칙과 높은 전략성 때문에 수백 년 동안 사랑받고 있으며, 전 세계적으로 인기 있는 게임 중 하나입니다.
오목은 두 명의 플레이어 사이에서 진행되는 대국은 물론, 전문적인 경기나 기계 학습과 인공 지능을 테스트하는 분야에서도 활용되고 있습니다.
Markdown
복사
[출처] 3.5와 4.0을 현명하게 사용하는 법
Chrome Extensions
4. To enhance speaking and writing skills for Prompt Engineering in the era of AI.
Multimodal
요약
•
피티가 말로 대화하는 능력 향상 및 음성 합성 기술 개선
•
다양한 언어 인식과 사용 가능한 목소리
사실
•
피티는 이제 타이핑 대화 외에도 음성으로 대화 가능한 기능을 제공합니다.
•
영어뿐만 아니라 한국어, 중국어, 스페인어, 프랑스어, 독일어, 일본어, 이탈리아어, 네덜란드어 등 다양한 언어로 대화가 가능합니다.
•
음성 합성 기술을 통해 피티는 다섯 가지 목소리를 가지고 있으며, 다른 언어의 발음을 잘 구사할 수 있습니다.
•
채지 BT 앱을 설치하고 설정하면 음성 대화 기능을 사용할 수 있으며, 이를 통해 피티와 대화할 수 있습니다.
•
음성 대화 기능은 프라이버시 관련 고려 사항이 있으므로 사용자는 주의해야 합니다.
위의 내용은 피티의 음성 대화 능력 향상과 사용 방법, 다양한 언어 지원, 목소리 다양성, 설정 방법, 그리고 프라이버시에 대한 정보를 요약한 것입니다. 이 정보를 바탕으로 피티를 효과적으로 활용할 수 있습니다.
샤론 최의 통역 방식
세 줄 요약
샤론 최는 통역 시간을 아끼기 위해 간결하고 짧은 요약을 통해 통역을 하며, 부정형을 피하고 긍정형으로 문장을 만들어 명확하게 표현한다.
•
•
•
요약
이 비디오는 샤론 최가 어떻게 통역을 하는지에 대한 비법을 소개한다. 샤론 최는 통역할 때 수첩을 사용하지 않고, 정말 필요한 포인트들만 기억하고 통역을 한다. 그녀는 노트 필기나 자세한 정리보다는 최대한 간결하게 표현하려고 노력한다. 또한, 최대한 부정형을 사용하지 않고 긍정형으로 문장을 만들어 표현하려고 한다. 그리고 통역할 때는 최대한 짧게 요약하여 표현하려고 노력한다. 그녀는 통역 시간이 제한되어 있기 때문에 시간을 아끼기 위해 최대한 간결하게 표현하고자 한다. 또한, 감독님의 의도를 명확하게 전달하기 위해 염두에 두고 통역을 한다. 이 비법을 통해 샤론 최는 효과적인 통역을 할 수 있었다.
샤론최는 도약할 때 수첩을 사용하지 않고 통역을 진행하는데, 이는 그녀가 통역을 배운 적이 없기 때문이다.
샤론최는 영화에 대한 집착이 크고, 영화 과정에서 중요한 포인트를 노트에 정리하는 능력이 있다.
샤론최는 통역을 업무로 하며, 봉준호 감독과의 통역 경험에서 부정 형태로 표현하는 것이 중요하다는 생각을 가지고 있다.
봉준호 감독과의 통역 시간은 다른 게스트와 비교하여 매우 짧은 편이다.
샤론최는 통역 과정에서 최대한 명확하게 전달하기 위해 번역을 축약하고, 애매한 단어들을 대체하는데 어려움을 겪는다.
샤론최는 봉준호 감독과의 통역 경험이 많으며, 항상 명령하게 전달해야 한다는 염두를 두고 있다.
샤론최는 통역 과정에서 번역하기 어려운 단어들이 있고, 시간이 제한되어있어서 완벽한 번역을 할 수 없다.
샤론최는 통역자로서 영화 현장에서의 역할을 맡고 있으며, 실시간으로 통역을 해야 한다.
샤론최는 통역 업무를 수행하기 위해 영어를 잘하고, 집중력과 순간적인 판단력이 필요하다.
샤론최는 오랜 기간 동안 통역을 하면서 경험과 능력을 쌓아왔고, 봉준호 감독의 수상소감 통역에도 참여하였다.
샤론최는 통역 과정에서 어려움을 겪지만, 최대한 명확하게 전달하기 위해 축약하고 대체어를 사용한다.
내용
샤론최는 도약할 때 수첩을 사용하지 않고 통역을 진행하는데, 이는 그녀가 통역을 배운 적이 없기 때문이다.
샤론최는 영화에 대한 집착이 크고, 영화 과정에서 중요한 포인트를 노트에 정리하는 능력이 있다.
샤론최는 통역을 업무로 하며, 봉준호 감독과의 통역 경험에서 부정 형태로 표현하는 것이 중요하다는 생각을 가지고 있다.
봉준호 감독과의 통역 시간은 다른 게스트와 비교하여 매우 짧은 편이다.
샤론최는 통역 과정에서 최대한 명확하게 전달하기 위해 번역을 축약하고, 애매한 단어들을 대체하는데 어려움을 겪는다.
샤론최는 봉준호 감독과의 통역 경험이 많으며, 항상 명령하게 전달해야 한다는 염두를 두고 있다.
샤론최는 통역 과정에서 번역하기 어려운 단어들이 있고, 시간이 제한되어있어서 완벽한 번역을 할 수 없다.
샤론최는 통역자로서 영화 현장에서의 역할을 맡고 있으며, 실시간으로 통역을 해야 한다.
샤론최는 통역 업무를 수행하기 위해 영어를 잘하고, 집중력과 순간적인 판단력이 필요하다.
샤론최는 오랜 기간 동안 통역을 하면서 경험과 능력을 쌓아왔고, 봉준호 감독의 수상소감 통역에도 참여하였다.
샤론최는 통역 과정에서 어려움을 겪지만, 최대한 명확하게 전달하기 위해 축약하고 대체어를 사용한다.
영어 성적 D+에서 영어 회화 A+ 만든 꿀팁
요약
•
인생의 전환점과 동기부여
•
영어 공부 결심과 군대에서의 노력
이야기에서 저는 인생의 전환점과 그에 따른 동기부여에 대해 이야기하고 있습니다. 제 인생의 전환점은 대학 입학 때였으며, 이때 영어를 배우기로 결심했습니다. 군대에서도 영어 공부를 열심히 하며 동기부여를 유지했습니다.
사실
•
•
•
•
•
•
•
•
4-1. The five primary language skills in English
The five primary language skills in English(Receptive skills and Productive skills)
The five primary language skills in English can be categorized into two main groups: receptive skills and productive skills. Here they are:
Receptive Skills:
1.
Listening: This skill involves understanding spoken language. Essential listening skills for English learners include predicting content, listening for gist, detecting signposts, listening for details, and inferring meaning [5].
2.
Reading: Reading is the ability to understand written text. Key components include phonemic awareness, phonics, vocabulary, and fluency [4].
Productive Skills:
1.
Speaking: Speaking involves the ability to communicate verbally. It includes pronunciation, vocabulary, grammar, and the ability to express ideas clearly.
2.
Writing: Writing is the skill of expressing thoughts and ideas through written text. It includes grammar, spelling, punctuation, and the ability to structure and organize written content.
3.
Critical Thinking: Although not always explicitly mentioned, critical thinking is an essential skill in English. It involves analyzing, evaluating, and synthesizing information to make reasoned judgments and solve problems effectively [6].
These five primary language skills are crucial for effective communication and language proficiency in English. They encompass both the ability to understand and the capacity to express thoughts and ideas in written and spoken form.
Viewing
English 5 Skills
USER: English 5 Skills: Speaking, Writing, Listening, Reading, Viewing
ASSISTANT: Certainly, English language proficiency is often assessed based on five primary skills: speaking, writing, listening, reading, and viewing. Here's a brief overview of each skill and some tips for improving them:
Speaking:
Practice Speaking Regularly: Engage in conversations in English as much as possible. Find language exchange partners or join conversation clubs.
Record Yourself: Record your speech and listen to it to identify areas for improvement in pronunciation and fluency.
Use Language Learning Apps: Many apps offer speaking exercises and pronunciation practice.
Writing:
Write Daily: Make writing a habit. Start with a journal, blog, or short essays.
Edit and Revise: Review and edit your writing for grammar, vocabulary, and coherence.
Get Feedback: Share your writing with others or use online writing communities to receive feedback.
Listening:
Listen Actively: Watch movies, TV shows, podcasts, and news programs in English. Focus on understanding spoken English.
Transcribe and Repeat: Transcribe what you hear, and then try to repeat it to improve your listening and pronunciation.
Use Language Learning Apps: Many apps offer listening comprehension exercises.
Reading:
Read Widely: Read books, newspapers, magazines, and online articles in English. Choose topics you're interested in.
Expand Vocabulary: Keep a vocabulary journal and note down unfamiliar words for later study.
Join Book Clubs: Joining a book club can motivate you to read more and discuss books with others.
Viewing:
Watch Educational Content: Watch documentaries, educational YouTube channels, and TED Talks in English to gain knowledge while improving listening and viewing skills.
Analyze Visuals: Pay attention to visual elements in movies and videos, as well as how they contribute to the story or message.
Engage in Critical Discussions: Share your thoughts and interpretations of what you've viewed with others to deepen your understanding.
Remember that consistent practice is key to improving these skills. You can also combine these skills by, for example, watching a movie in English (viewing and listening), transcribing a scene (writing), discussing it with friends (speaking), and reading reviews (reading).
Additionally, consider using language learning apps, online courses, and language exchange programs to further enhance your skills in each area. Tailor your approach to your specific goals and areas of weakness to become a well-rounded English language learner.
4-2. How to use ChatGPT to learn English or any language
Powerful ChatGPT Prompts for Education, Teachers, High School Students
4-3. Productive Skills(Speaking)
Tools (Chrome Extensions, ChatGPT-based AI Service)
Talk-To-ChatGPT
Small Talk with ChatGPT
AI Voices
Pi, your personal AI
NPC
ElevenLabs
Typecast
4-4. Productive Skills(Writing)
Tools (Chrome Extensions, ChatGPT-based AI Service)
EditGPT
Grammarly
QuillBot
DeepL
5. Viewing
6. Useful information
6-1. 영어 변형문제 만들기
Act as if you are a quiz maker.
Make options for the stem according to the conditions below.
Stem: Which of the following is the best title of the passage?
Provide 10 options for the correct answers.
Provide 10 options for the wrong answers. They should be attractive enough to be mistaken for an incorrect answer.
Use only CEFR B1 level words.
Provide your explanation for each option.
Markdown
복사
6-2. ChatGPT + DeepL + Google 번역 비교
7. Let’s learn English by Prompt Engineering
Cohesion(문장 내부의 요소들 사이의 일관성)과 coherence(글 전체 흐름의 일관성)
Cohesion(일관성)과 coherence(일관성)은 글이나 문장의 구조와 의미를 갖는 데 중요한 개념입니다. 그러나 두 용어는 약간 다른 의미를 가지고 있습니다.
Cohesion(일관성)은 문장 내부에서 단어, 구, 문장 등이 서로 연결되어 일관된 흐름을 형성하는 것을 의미합니다. 이는 문장의 내부적인 구조와 관련이 있으며, 문장의 통일성과 명확함을 도모합니다. Cohesion은 주로 어휘적인 수단을 사용하여 달성됩니다. 예를 들면, 대명사를 사용하여 이전에 언급된 대상을 참조하거나, 전환 단어를 사용하여 아이디어 간의 관계를 나타내는 등입니다.
Coherence(일관성)는 글 전체가 응집력 있게 조직되고 통합되어 읽는 사람에게 명확하고 일관된 메시지를 전달하는 것을 말합니다. 즉, 여러 문장이 서로 상호작용하며 하나의 큰 주제 또는 아이디어를 지원하는 방식으로 연결되어야 합니다. Coherence는 글의 구조와 조직에 관련되며, 절차적으로 정리되거나 논리적으로 발전해야 합니다.
요약하자면, cohesion은 문장 내부에서 요소들 사이의 일관성과 연결력을 갖추는 것에 초점을 맞추고, coherence은 글 전체가 일관된 주제와 목적을 가지고 통합되며 읽기 쉽고 이해하기 쉬운 구조로 조직화되도록 하는 것에 초점을 맞춥니다.