parent
12eee097b7
commit
48aca246e3
@ -1,142 +0,0 @@ |
||||
package main |
||||
|
||||
// A simple program demonstrating the text area component from the Bubbles
|
||||
// component library.
|
||||
|
||||
import ( |
||||
"fmt" |
||||
"strings" |
||||
|
||||
"github.com/charmbracelet/bubbles/textarea" |
||||
"github.com/charmbracelet/bubbles/viewport" |
||||
tea "github.com/charmbracelet/bubbletea" |
||||
"github.com/charmbracelet/lipgloss" |
||||
llama "github.com/go-skynet/go-llama.cpp" |
||||
) |
||||
|
||||
func startInteractive(l *llama.LLama, opts ...llama.PredictOption) error { |
||||
p := tea.NewProgram(initialModel(l, opts...)) |
||||
|
||||
_, err := p.Run() |
||||
return err |
||||
} |
||||
|
||||
type ( |
||||
errMsg error |
||||
) |
||||
|
||||
type model struct { |
||||
viewport viewport.Model |
||||
messages *[]string |
||||
textarea textarea.Model |
||||
senderStyle lipgloss.Style |
||||
err error |
||||
l *llama.LLama |
||||
opts []llama.PredictOption |
||||
|
||||
predictC chan string |
||||
} |
||||
|
||||
func initialModel(l *llama.LLama, opts ...llama.PredictOption) model { |
||||
ta := textarea.New() |
||||
ta.Placeholder = "Send a message..." |
||||
ta.Focus() |
||||
|
||||
ta.Prompt = "┃ " |
||||
ta.CharLimit = 280 |
||||
|
||||
ta.SetWidth(200) |
||||
ta.SetHeight(3) |
||||
|
||||
// Remove cursor line styling
|
||||
ta.FocusedStyle.CursorLine = lipgloss.NewStyle() |
||||
|
||||
ta.ShowLineNumbers = false |
||||
|
||||
vp := viewport.New(200, 5) |
||||
vp.SetContent(`Welcome to llama-cli. Type a message and press Enter to send. Alpaca doesn't keep context of the whole chat (yet).`) |
||||
|
||||
ta.KeyMap.InsertNewline.SetEnabled(false) |
||||
|
||||
predictChannel := make(chan string) |
||||
messages := []string{} |
||||
m := model{ |
||||
textarea: ta, |
||||
messages: &messages, |
||||
viewport: vp, |
||||
senderStyle: lipgloss.NewStyle().Foreground(lipgloss.Color("5")), |
||||
err: nil, |
||||
l: l, |
||||
opts: opts, |
||||
predictC: predictChannel, |
||||
} |
||||
go func() { |
||||
for p := range predictChannel { |
||||
str, _ := templateString(emptyInput, struct { |
||||
Instruction string |
||||
Input string |
||||
}{Instruction: p}) |
||||
res, _ := l.Predict( |
||||
str, |
||||
opts..., |
||||
) |
||||
|
||||
mm := *m.messages |
||||
*m.messages = mm[:len(mm)-1] |
||||
*m.messages = append(*m.messages, m.senderStyle.Render("llama: ")+res) |
||||
m.viewport.SetContent(strings.Join(*m.messages, "\n")) |
||||
ta.Reset() |
||||
m.viewport.GotoBottom() |
||||
} |
||||
}() |
||||
|
||||
return m |
||||
} |
||||
|
||||
func (m model) Init() tea.Cmd { |
||||
return textarea.Blink |
||||
} |
||||
|
||||
func (m model) Update(msg tea.Msg) (tea.Model, tea.Cmd) { |
||||
var ( |
||||
tiCmd tea.Cmd |
||||
vpCmd tea.Cmd |
||||
) |
||||
|
||||
m.textarea, tiCmd = m.textarea.Update(msg) |
||||
m.viewport, vpCmd = m.viewport.Update(msg) |
||||
|
||||
switch msg := msg.(type) { |
||||
case tea.WindowSizeMsg: |
||||
|
||||
// m.viewport.Width = msg.Width
|
||||
// m.viewport.Height = msg.Height
|
||||
case tea.KeyMsg: |
||||
switch msg.Type { |
||||
case tea.KeyCtrlC, tea.KeyEsc: |
||||
fmt.Println(m.textarea.Value()) |
||||
return m, tea.Quit |
||||
case tea.KeyEnter: |
||||
*m.messages = append(*m.messages, m.senderStyle.Render("You: ")+m.textarea.Value(), m.senderStyle.Render("Loading response...")) |
||||
m.predictC <- m.textarea.Value() |
||||
m.viewport.SetContent(strings.Join(*m.messages, "\n")) |
||||
m.textarea.Reset() |
||||
m.viewport.GotoBottom() |
||||
} |
||||
|
||||
// We handle errors just like any other message
|
||||
case errMsg: |
||||
m.err = msg |
||||
return m, nil |
||||
} |
||||
|
||||
return m, tea.Batch(tiCmd, vpCmd) |
||||
} |
||||
|
||||
func (m model) View() string { |
||||
return fmt.Sprintf( |
||||
"%s\n\n%s", |
||||
m.viewport.View(), |
||||
m.textarea.View(), |
||||
) + "\n\n" |
||||
} |
Loading…
Reference in new issue