Compare commits
8 Commits
Author | SHA1 | Date | |
---|---|---|---|
fd33b43f31
|
|||
be4de07eb8
|
|||
36ed474bfe
|
|||
fdc590c8c3
|
|||
1990e5d32d
|
|||
72883cf6bd
|
|||
ff08d5f180
|
|||
72d6b538f7
|
@@ -10,6 +10,7 @@ type CommandRunner struct {
|
|||||||
args []string
|
args []string
|
||||||
timeout *time.Duration
|
timeout *time.Duration
|
||||||
env []string
|
env []string
|
||||||
|
listener []CommandListener
|
||||||
}
|
}
|
||||||
|
|
||||||
func Runner(program string) *CommandRunner {
|
func Runner(program string) *CommandRunner {
|
||||||
@@ -18,6 +19,7 @@ func Runner(program string) *CommandRunner {
|
|||||||
args: make([]string, 0),
|
args: make([]string, 0),
|
||||||
timeout: nil,
|
timeout: nil,
|
||||||
env: make([]string, 0),
|
env: make([]string, 0),
|
||||||
|
listener: make([]CommandListener, 0),
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|
||||||
@@ -51,6 +53,21 @@ func (r *CommandRunner) Envs(env []string) *CommandRunner {
|
|||||||
return r
|
return r
|
||||||
}
|
}
|
||||||
|
|
||||||
|
func (r *CommandRunner) Listen(lstr CommandListener) *CommandRunner {
|
||||||
|
r.listener = append(r.listener, lstr)
|
||||||
|
return r
|
||||||
|
}
|
||||||
|
|
||||||
|
func (r *CommandRunner) ListenStdout(lstr func(string)) *CommandRunner {
|
||||||
|
r.listener = append(r.listener, genericCommandListener{_readStdoutLine: &lstr})
|
||||||
|
return r
|
||||||
|
}
|
||||||
|
|
||||||
|
func (r *CommandRunner) ListenStderr(lstr func(string)) *CommandRunner {
|
||||||
|
r.listener = append(r.listener, genericCommandListener{_readStderrLine: &lstr})
|
||||||
|
return r
|
||||||
|
}
|
||||||
|
|
||||||
func (r *CommandRunner) Run() (CommandResult, error) {
|
func (r *CommandRunner) Run() (CommandResult, error) {
|
||||||
return run(*r)
|
return run(*r)
|
||||||
}
|
}
|
||||||
|
@@ -1,7 +1,8 @@
|
|||||||
package cmdext
|
package cmdext
|
||||||
|
|
||||||
import (
|
import (
|
||||||
"bufio"
|
"gogs.mikescher.com/BlackForestBytes/goext/mathext"
|
||||||
|
"gogs.mikescher.com/BlackForestBytes/goext/syncext"
|
||||||
"os/exec"
|
"os/exec"
|
||||||
"time"
|
"time"
|
||||||
)
|
)
|
||||||
@@ -29,51 +30,39 @@ func run(opt CommandRunner) (CommandResult, error) {
|
|||||||
return CommandResult{}, err
|
return CommandResult{}, err
|
||||||
}
|
}
|
||||||
|
|
||||||
|
preader := pipeReader{
|
||||||
|
stdout: stdoutPipe,
|
||||||
|
stderr: stderrPipe,
|
||||||
|
}
|
||||||
|
|
||||||
err = cmd.Start()
|
err = cmd.Start()
|
||||||
if err != nil {
|
if err != nil {
|
||||||
return CommandResult{}, err
|
return CommandResult{}, err
|
||||||
}
|
}
|
||||||
|
|
||||||
errch := make(chan error, 1)
|
type resultObj struct {
|
||||||
go func() { errch <- cmd.Wait() }()
|
stdout string
|
||||||
|
stderr string
|
||||||
|
stdcombined string
|
||||||
|
err error
|
||||||
|
}
|
||||||
|
|
||||||
combch := make(chan string, 32)
|
outputChan := make(chan resultObj)
|
||||||
stopCombch := make(chan bool)
|
|
||||||
|
|
||||||
stdout := ""
|
|
||||||
go func() {
|
go func() {
|
||||||
scanner := bufio.NewScanner(stdoutPipe)
|
// we need to first fully read the pipes and then call Wait
|
||||||
for scanner.Scan() {
|
// see https://pkg.go.dev/os/exec#Cmd.StdoutPipe
|
||||||
txt := scanner.Text()
|
|
||||||
stdout += txt
|
|
||||||
combch <- txt
|
|
||||||
}
|
|
||||||
}()
|
|
||||||
|
|
||||||
stderr := ""
|
stdout, stderr, stdcombined, err := preader.Read(opt.listener)
|
||||||
go func() {
|
if err != nil {
|
||||||
scanner := bufio.NewScanner(stderrPipe)
|
outputChan <- resultObj{stdout, stderr, stdcombined, err}
|
||||||
for scanner.Scan() {
|
|
||||||
txt := scanner.Text()
|
|
||||||
stderr += txt
|
|
||||||
combch <- txt
|
|
||||||
}
|
}
|
||||||
}()
|
|
||||||
|
|
||||||
defer func() {
|
err = cmd.Wait()
|
||||||
stopCombch <- true
|
if err != nil {
|
||||||
}()
|
outputChan <- resultObj{stdout, stderr, stdcombined, err}
|
||||||
|
}
|
||||||
|
|
||||||
stdcombined := ""
|
outputChan <- resultObj{stdout, stderr, stdcombined, nil}
|
||||||
go func() {
|
|
||||||
for {
|
|
||||||
select {
|
|
||||||
case txt := <-combch:
|
|
||||||
stdcombined += txt
|
|
||||||
case <-stopCombch:
|
|
||||||
return
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}()
|
}()
|
||||||
|
|
||||||
var timeoutChan <-chan time.Time = make(chan time.Time, 1)
|
var timeoutChan <-chan time.Time = make(chan time.Time, 1)
|
||||||
@@ -85,30 +74,53 @@ func run(opt CommandRunner) (CommandResult, error) {
|
|||||||
|
|
||||||
case <-timeoutChan:
|
case <-timeoutChan:
|
||||||
_ = cmd.Process.Kill()
|
_ = cmd.Process.Kill()
|
||||||
|
for _, lstr := range opt.listener {
|
||||||
|
lstr.Timeout()
|
||||||
|
}
|
||||||
|
|
||||||
|
if fallback, ok := syncext.ReadChannelWithTimeout(outputChan, mathext.Min(32*time.Millisecond, *opt.timeout)); ok {
|
||||||
|
// most of the time the cmd.Process.Kill() should also ahve finished the pipereader
|
||||||
|
// and we can at least return the already collected stdout, stderr, etc
|
||||||
return CommandResult{
|
return CommandResult{
|
||||||
StdOut: stdout,
|
StdOut: fallback.stdout,
|
||||||
StdErr: stderr,
|
StdErr: fallback.stderr,
|
||||||
StdCombined: stdcombined,
|
StdCombined: fallback.stdcombined,
|
||||||
ExitCode: -1,
|
ExitCode: -1,
|
||||||
CommandTimedOut: true,
|
CommandTimedOut: true,
|
||||||
}, nil
|
}, nil
|
||||||
|
} else {
|
||||||
case err := <-errch:
|
|
||||||
if exiterr, ok := err.(*exec.ExitError); ok {
|
|
||||||
return CommandResult{
|
return CommandResult{
|
||||||
StdOut: stdout,
|
StdOut: "",
|
||||||
StdErr: stderr,
|
StdErr: "",
|
||||||
StdCombined: stdcombined,
|
StdCombined: "",
|
||||||
ExitCode: exiterr.ExitCode(),
|
ExitCode: -1,
|
||||||
|
CommandTimedOut: true,
|
||||||
|
}, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
case outobj := <-outputChan:
|
||||||
|
if exiterr, ok := outobj.err.(*exec.ExitError); ok {
|
||||||
|
excode := exiterr.ExitCode()
|
||||||
|
for _, lstr := range opt.listener {
|
||||||
|
lstr.Finished(excode)
|
||||||
|
}
|
||||||
|
return CommandResult{
|
||||||
|
StdOut: outobj.stdout,
|
||||||
|
StdErr: outobj.stderr,
|
||||||
|
StdCombined: outobj.stdcombined,
|
||||||
|
ExitCode: excode,
|
||||||
CommandTimedOut: false,
|
CommandTimedOut: false,
|
||||||
}, nil
|
}, nil
|
||||||
} else if err != nil {
|
} else if err != nil {
|
||||||
return CommandResult{}, err
|
return CommandResult{}, err
|
||||||
} else {
|
} else {
|
||||||
|
for _, lstr := range opt.listener {
|
||||||
|
lstr.Finished(0)
|
||||||
|
}
|
||||||
return CommandResult{
|
return CommandResult{
|
||||||
StdOut: stdout,
|
StdOut: outobj.stdout,
|
||||||
StdErr: stderr,
|
StdErr: outobj.stderr,
|
||||||
StdCombined: stdcombined,
|
StdCombined: outobj.stdcombined,
|
||||||
ExitCode: 0,
|
ExitCode: 0,
|
||||||
CommandTimedOut: false,
|
CommandTimedOut: false,
|
||||||
}, nil
|
}, nil
|
||||||
|
226
cmdext/cmdrunner_test.go
Normal file
226
cmdext/cmdrunner_test.go
Normal file
@@ -0,0 +1,226 @@
|
|||||||
|
package cmdext
|
||||||
|
|
||||||
|
import (
|
||||||
|
"fmt"
|
||||||
|
"testing"
|
||||||
|
"time"
|
||||||
|
)
|
||||||
|
|
||||||
|
func TestStdout(t *testing.T) {
|
||||||
|
|
||||||
|
res1, err := Runner("printf").Arg("hello").Run()
|
||||||
|
if err != nil {
|
||||||
|
t.Errorf("%v", err)
|
||||||
|
}
|
||||||
|
if res1.StdErr != "" {
|
||||||
|
t.Errorf("res1.StdErr == '%v'", res1.StdErr)
|
||||||
|
}
|
||||||
|
if res1.StdOut != "hello" {
|
||||||
|
t.Errorf("res1.StdOut == '%v'", res1.StdOut)
|
||||||
|
}
|
||||||
|
if res1.StdCombined != "hello\n" {
|
||||||
|
t.Errorf("res1.StdCombined == '%v'", res1.StdCombined)
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
func TestStderr(t *testing.T) {
|
||||||
|
|
||||||
|
res1, err := Runner("python").Arg("-c").Arg("import sys; print(\"error\", file=sys.stderr, end='')").Run()
|
||||||
|
if err != nil {
|
||||||
|
t.Errorf("%v", err)
|
||||||
|
}
|
||||||
|
if res1.StdErr != "error" {
|
||||||
|
t.Errorf("res1.StdErr == '%v'", res1.StdErr)
|
||||||
|
}
|
||||||
|
if res1.StdOut != "" {
|
||||||
|
t.Errorf("res1.StdOut == '%v'", res1.StdOut)
|
||||||
|
}
|
||||||
|
if res1.StdCombined != "error\n" {
|
||||||
|
t.Errorf("res1.StdCombined == '%v'", res1.StdCombined)
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
func TestStdcombined(t *testing.T) {
|
||||||
|
res1, err := Runner("python").
|
||||||
|
Arg("-c").
|
||||||
|
Arg("import sys; import time; print(\"1\", file=sys.stderr, flush=True); time.sleep(0.1); print(\"2\", file=sys.stdout, flush=True); time.sleep(0.1); print(\"3\", file=sys.stderr, flush=True)").
|
||||||
|
Run()
|
||||||
|
if err != nil {
|
||||||
|
t.Errorf("%v", err)
|
||||||
|
}
|
||||||
|
if res1.StdErr != "1\n3\n" {
|
||||||
|
t.Errorf("res1.StdErr == '%v'", res1.StdErr)
|
||||||
|
}
|
||||||
|
if res1.StdOut != "2\n" {
|
||||||
|
t.Errorf("res1.StdOut == '%v'", res1.StdOut)
|
||||||
|
}
|
||||||
|
if res1.StdCombined != "1\n2\n3\n" {
|
||||||
|
t.Errorf("res1.StdCombined == '%v'", res1.StdCombined)
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
func TestPartialRead(t *testing.T) {
|
||||||
|
res1, err := Runner("python").
|
||||||
|
Arg("-c").
|
||||||
|
Arg("import sys; import time; print(\"first message\", flush=True); time.sleep(5); print(\"cant see me\", flush=True);").
|
||||||
|
Timeout(100 * time.Millisecond).
|
||||||
|
Run()
|
||||||
|
if err != nil {
|
||||||
|
t.Errorf("%v", err)
|
||||||
|
}
|
||||||
|
if !res1.CommandTimedOut {
|
||||||
|
t.Errorf("!CommandTimedOut")
|
||||||
|
}
|
||||||
|
if res1.StdErr != "" {
|
||||||
|
t.Errorf("res1.StdErr == '%v'", res1.StdErr)
|
||||||
|
}
|
||||||
|
if res1.StdOut != "first message\n" {
|
||||||
|
t.Errorf("res1.StdOut == '%v'", res1.StdOut)
|
||||||
|
}
|
||||||
|
if res1.StdCombined != "first message\n" {
|
||||||
|
t.Errorf("res1.StdCombined == '%v'", res1.StdCombined)
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
func TestPartialReadStderr(t *testing.T) {
|
||||||
|
res1, err := Runner("python").
|
||||||
|
Arg("-c").
|
||||||
|
Arg("import sys; import time; print(\"first message\", file=sys.stderr, flush=True); time.sleep(5); print(\"cant see me\", file=sys.stderr, flush=True);").
|
||||||
|
Timeout(100 * time.Millisecond).
|
||||||
|
Run()
|
||||||
|
if err != nil {
|
||||||
|
t.Errorf("%v", err)
|
||||||
|
}
|
||||||
|
if !res1.CommandTimedOut {
|
||||||
|
t.Errorf("!CommandTimedOut")
|
||||||
|
}
|
||||||
|
if res1.StdErr != "first message\n" {
|
||||||
|
t.Errorf("res1.StdErr == '%v'", res1.StdErr)
|
||||||
|
}
|
||||||
|
if res1.StdOut != "" {
|
||||||
|
t.Errorf("res1.StdOut == '%v'", res1.StdOut)
|
||||||
|
}
|
||||||
|
if res1.StdCombined != "first message\n" {
|
||||||
|
t.Errorf("res1.StdCombined == '%v'", res1.StdCombined)
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
func TestReadUnflushedStdout(t *testing.T) {
|
||||||
|
|
||||||
|
res1, err := Runner("python").Arg("-c").Arg("import sys; print(\"message101\", file=sys.stdout, end='')").Run()
|
||||||
|
if err != nil {
|
||||||
|
t.Errorf("%v", err)
|
||||||
|
}
|
||||||
|
if res1.StdErr != "" {
|
||||||
|
t.Errorf("res1.StdErr == '%v'", res1.StdErr)
|
||||||
|
}
|
||||||
|
if res1.StdOut != "message101" {
|
||||||
|
t.Errorf("res1.StdOut == '%v'", res1.StdOut)
|
||||||
|
}
|
||||||
|
if res1.StdCombined != "message101\n" {
|
||||||
|
t.Errorf("res1.StdCombined == '%v'", res1.StdCombined)
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
func TestReadUnflushedStderr(t *testing.T) {
|
||||||
|
|
||||||
|
res1, err := Runner("python").Arg("-c").Arg("import sys; print(\"message101\", file=sys.stderr, end='')").Run()
|
||||||
|
if err != nil {
|
||||||
|
t.Errorf("%v", err)
|
||||||
|
}
|
||||||
|
if res1.StdErr != "message101" {
|
||||||
|
t.Errorf("res1.StdErr == '%v'", res1.StdErr)
|
||||||
|
}
|
||||||
|
if res1.StdOut != "" {
|
||||||
|
t.Errorf("res1.StdOut == '%v'", res1.StdOut)
|
||||||
|
}
|
||||||
|
if res1.StdCombined != "message101\n" {
|
||||||
|
t.Errorf("res1.StdCombined == '%v'", res1.StdCombined)
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
func TestPartialReadUnflushed(t *testing.T) {
|
||||||
|
t.SkipNow()
|
||||||
|
|
||||||
|
res1, err := Runner("python").
|
||||||
|
Arg("-c").
|
||||||
|
Arg("import sys; import time; print(\"first message\", end=''); time.sleep(5); print(\"cant see me\", end='');").
|
||||||
|
Timeout(100 * time.Millisecond).
|
||||||
|
Run()
|
||||||
|
if err != nil {
|
||||||
|
t.Errorf("%v", err)
|
||||||
|
}
|
||||||
|
if !res1.CommandTimedOut {
|
||||||
|
t.Errorf("!CommandTimedOut")
|
||||||
|
}
|
||||||
|
if res1.StdErr != "" {
|
||||||
|
t.Errorf("res1.StdErr == '%v'", res1.StdErr)
|
||||||
|
}
|
||||||
|
if res1.StdOut != "first message" {
|
||||||
|
t.Errorf("res1.StdOut == '%v'", res1.StdOut)
|
||||||
|
}
|
||||||
|
if res1.StdCombined != "first message" {
|
||||||
|
t.Errorf("res1.StdCombined == '%v'", res1.StdCombined)
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
func TestPartialReadUnflushedStderr(t *testing.T) {
|
||||||
|
t.SkipNow()
|
||||||
|
|
||||||
|
res1, err := Runner("python").
|
||||||
|
Arg("-c").
|
||||||
|
Arg("import sys; import time; print(\"first message\", file=sys.stderr, end=''); time.sleep(5); print(\"cant see me\", file=sys.stderr, end='');").
|
||||||
|
Timeout(100 * time.Millisecond).
|
||||||
|
Run()
|
||||||
|
if err != nil {
|
||||||
|
t.Errorf("%v", err)
|
||||||
|
}
|
||||||
|
if !res1.CommandTimedOut {
|
||||||
|
t.Errorf("!CommandTimedOut")
|
||||||
|
}
|
||||||
|
if res1.StdErr != "first message" {
|
||||||
|
t.Errorf("res1.StdErr == '%v'", res1.StdErr)
|
||||||
|
}
|
||||||
|
if res1.StdOut != "" {
|
||||||
|
t.Errorf("res1.StdOut == '%v'", res1.StdOut)
|
||||||
|
}
|
||||||
|
if res1.StdCombined != "first message" {
|
||||||
|
t.Errorf("res1.StdCombined == '%v'", res1.StdCombined)
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
func TestListener(t *testing.T) {
|
||||||
|
|
||||||
|
_, err := Runner("python").
|
||||||
|
Arg("-c").
|
||||||
|
Arg("import sys;" +
|
||||||
|
"import time;" +
|
||||||
|
"print(\"message 1\", flush=True);" +
|
||||||
|
"time.sleep(1);" +
|
||||||
|
"print(\"message 2\", flush=True);" +
|
||||||
|
"time.sleep(1);" +
|
||||||
|
"print(\"message 3\", flush=True);" +
|
||||||
|
"time.sleep(1);" +
|
||||||
|
"print(\"message 4\", file=sys.stderr, flush=True);" +
|
||||||
|
"time.sleep(1);" +
|
||||||
|
"print(\"message 5\", flush=True);" +
|
||||||
|
"time.sleep(1);" +
|
||||||
|
"print(\"final\");").
|
||||||
|
ListenStdout(func(s string) { fmt.Printf("@@STDOUT <<- %v (%v)\n", s, time.Now().Format(time.RFC3339Nano)) }).
|
||||||
|
ListenStderr(func(s string) { fmt.Printf("@@STDERR <<- %v (%v)\n", s, time.Now().Format(time.RFC3339Nano)) }).
|
||||||
|
Timeout(10 * time.Second).
|
||||||
|
Run()
|
||||||
|
|
||||||
|
if err != nil {
|
||||||
|
panic(err)
|
||||||
|
}
|
||||||
|
}
|
57
cmdext/listener.go
Normal file
57
cmdext/listener.go
Normal file
@@ -0,0 +1,57 @@
|
|||||||
|
package cmdext
|
||||||
|
|
||||||
|
type CommandListener interface {
|
||||||
|
ReadRawStdout([]byte)
|
||||||
|
ReadRawStderr([]byte)
|
||||||
|
|
||||||
|
ReadStdoutLine(string)
|
||||||
|
ReadStderrLine(string)
|
||||||
|
|
||||||
|
Finished(int)
|
||||||
|
Timeout()
|
||||||
|
}
|
||||||
|
|
||||||
|
type genericCommandListener struct {
|
||||||
|
_readRawStdout *func([]byte)
|
||||||
|
_readRawStderr *func([]byte)
|
||||||
|
_readStdoutLine *func(string)
|
||||||
|
_readStderrLine *func(string)
|
||||||
|
_finished *func(int)
|
||||||
|
_timeout *func()
|
||||||
|
}
|
||||||
|
|
||||||
|
func (g genericCommandListener) ReadRawStdout(v []byte) {
|
||||||
|
if g._readRawStdout != nil {
|
||||||
|
(*g._readRawStdout)(v)
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
func (g genericCommandListener) ReadRawStderr(v []byte) {
|
||||||
|
if g._readRawStderr != nil {
|
||||||
|
(*g._readRawStderr)(v)
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
func (g genericCommandListener) ReadStdoutLine(v string) {
|
||||||
|
if g._readStdoutLine != nil {
|
||||||
|
(*g._readStdoutLine)(v)
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
func (g genericCommandListener) ReadStderrLine(v string) {
|
||||||
|
if g._readStderrLine != nil {
|
||||||
|
(*g._readStderrLine)(v)
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
func (g genericCommandListener) Finished(v int) {
|
||||||
|
if g._finished != nil {
|
||||||
|
(*g._finished)(v)
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
func (g genericCommandListener) Timeout() {
|
||||||
|
if g._timeout != nil {
|
||||||
|
(*g._timeout)()
|
||||||
|
}
|
||||||
|
}
|
146
cmdext/pipereader.go
Normal file
146
cmdext/pipereader.go
Normal file
@@ -0,0 +1,146 @@
|
|||||||
|
package cmdext
|
||||||
|
|
||||||
|
import (
|
||||||
|
"bufio"
|
||||||
|
"gogs.mikescher.com/BlackForestBytes/goext/syncext"
|
||||||
|
"io"
|
||||||
|
"sync"
|
||||||
|
)
|
||||||
|
|
||||||
|
type pipeReader struct {
|
||||||
|
stdout io.ReadCloser
|
||||||
|
stderr io.ReadCloser
|
||||||
|
}
|
||||||
|
|
||||||
|
// Read ready stdout and stdin until finished
|
||||||
|
// also splits both pipes into lines and calld the listener
|
||||||
|
func (pr *pipeReader) Read(listener []CommandListener) (string, string, string, error) {
|
||||||
|
type combevt struct {
|
||||||
|
line string
|
||||||
|
stop bool
|
||||||
|
}
|
||||||
|
|
||||||
|
errch := make(chan error, 8)
|
||||||
|
|
||||||
|
wg := sync.WaitGroup{}
|
||||||
|
|
||||||
|
// [1] read raw stdout
|
||||||
|
|
||||||
|
wg.Add(1)
|
||||||
|
stdoutBufferReader, stdoutBufferWriter := io.Pipe()
|
||||||
|
stdout := ""
|
||||||
|
go func() {
|
||||||
|
buf := make([]byte, 128)
|
||||||
|
for true {
|
||||||
|
n, out := pr.stdout.Read(buf)
|
||||||
|
|
||||||
|
if n > 0 {
|
||||||
|
txt := string(buf[:n])
|
||||||
|
stdout += txt
|
||||||
|
_, _ = stdoutBufferWriter.Write(buf[:n])
|
||||||
|
for _, lstr := range listener {
|
||||||
|
lstr.ReadRawStdout(buf[:n])
|
||||||
|
}
|
||||||
|
}
|
||||||
|
if out == io.EOF {
|
||||||
|
break
|
||||||
|
}
|
||||||
|
if out != nil {
|
||||||
|
errch <- out
|
||||||
|
break
|
||||||
|
}
|
||||||
|
}
|
||||||
|
_ = stdoutBufferWriter.Close()
|
||||||
|
wg.Done()
|
||||||
|
}()
|
||||||
|
|
||||||
|
// [2] read raw stderr
|
||||||
|
|
||||||
|
wg.Add(1)
|
||||||
|
stderrBufferReader, stderrBufferWriter := io.Pipe()
|
||||||
|
stderr := ""
|
||||||
|
go func() {
|
||||||
|
buf := make([]byte, 128)
|
||||||
|
for true {
|
||||||
|
n, err := pr.stderr.Read(buf)
|
||||||
|
|
||||||
|
if n > 0 {
|
||||||
|
txt := string(buf[:n])
|
||||||
|
stderr += txt
|
||||||
|
_, _ = stderrBufferWriter.Write(buf[:n])
|
||||||
|
for _, lstr := range listener {
|
||||||
|
lstr.ReadRawStderr(buf[:n])
|
||||||
|
}
|
||||||
|
}
|
||||||
|
if err == io.EOF {
|
||||||
|
break
|
||||||
|
}
|
||||||
|
if err != nil {
|
||||||
|
errch <- err
|
||||||
|
break
|
||||||
|
}
|
||||||
|
}
|
||||||
|
_ = stderrBufferWriter.Close()
|
||||||
|
wg.Done()
|
||||||
|
}()
|
||||||
|
|
||||||
|
combch := make(chan combevt, 32)
|
||||||
|
|
||||||
|
// [3] collect stdout line-by-line
|
||||||
|
|
||||||
|
wg.Add(1)
|
||||||
|
go func() {
|
||||||
|
scanner := bufio.NewScanner(stdoutBufferReader)
|
||||||
|
for scanner.Scan() {
|
||||||
|
txt := scanner.Text()
|
||||||
|
for _, lstr := range listener {
|
||||||
|
lstr.ReadStdoutLine(txt)
|
||||||
|
}
|
||||||
|
combch <- combevt{txt, false}
|
||||||
|
}
|
||||||
|
combch <- combevt{"", true}
|
||||||
|
wg.Done()
|
||||||
|
}()
|
||||||
|
|
||||||
|
// [4] collect stderr line-by-line
|
||||||
|
|
||||||
|
wg.Add(1)
|
||||||
|
go func() {
|
||||||
|
scanner := bufio.NewScanner(stderrBufferReader)
|
||||||
|
for scanner.Scan() {
|
||||||
|
txt := scanner.Text()
|
||||||
|
for _, lstr := range listener {
|
||||||
|
lstr.ReadStderrLine(txt)
|
||||||
|
}
|
||||||
|
combch <- combevt{txt, false}
|
||||||
|
}
|
||||||
|
combch <- combevt{"", true}
|
||||||
|
wg.Done()
|
||||||
|
}()
|
||||||
|
|
||||||
|
// [5] combine stdcombined
|
||||||
|
|
||||||
|
wg.Add(1)
|
||||||
|
stdcombined := ""
|
||||||
|
go func() {
|
||||||
|
stopctr := 0
|
||||||
|
for stopctr < 2 {
|
||||||
|
vvv := <-combch
|
||||||
|
if vvv.stop {
|
||||||
|
stopctr++
|
||||||
|
} else {
|
||||||
|
stdcombined += vvv.line + "\n" // this comes from bufio.Scanner and has no newlines...
|
||||||
|
}
|
||||||
|
}
|
||||||
|
wg.Done()
|
||||||
|
}()
|
||||||
|
|
||||||
|
// wait for all (5) goroutines to finish
|
||||||
|
wg.Wait()
|
||||||
|
|
||||||
|
if err, ok := syncext.ReadNonBlocking(errch); ok {
|
||||||
|
return "", "", "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
return stdout, stderr, stdcombined, nil
|
||||||
|
}
|
112
cryptext/aes.go
112
cryptext/aes.go
@@ -1,10 +1,13 @@
|
|||||||
package cryptext
|
package cryptext
|
||||||
|
|
||||||
import (
|
import (
|
||||||
|
"bytes"
|
||||||
"crypto/aes"
|
"crypto/aes"
|
||||||
"crypto/cipher"
|
"crypto/cipher"
|
||||||
"crypto/rand"
|
"crypto/rand"
|
||||||
"encoding/base64"
|
"crypto/sha256"
|
||||||
|
"encoding/base32"
|
||||||
|
"encoding/json"
|
||||||
"errors"
|
"errors"
|
||||||
"golang.org/x/crypto/scrypt"
|
"golang.org/x/crypto/scrypt"
|
||||||
"io"
|
"io"
|
||||||
@@ -12,35 +15,90 @@ import (
|
|||||||
|
|
||||||
// https://stackoverflow.com/a/18819040/1761622
|
// https://stackoverflow.com/a/18819040/1761622
|
||||||
|
|
||||||
func EncryptAESSimple(password, text []byte) ([]byte, error) {
|
type aesPayload struct {
|
||||||
|
Salt []byte `json:"s"`
|
||||||
|
IV []byte `json:"i"`
|
||||||
|
Data []byte `json:"d"`
|
||||||
|
Rounds int `json:"r"`
|
||||||
|
Version uint `json:"v"`
|
||||||
|
}
|
||||||
|
|
||||||
key, err := scrypt.Key(password, nil, 32768, 8, 1, 32) // this is not 100% correct, rounds too low and salt is missing
|
func EncryptAESSimple(password []byte, data []byte, rounds int) (string, error) {
|
||||||
|
|
||||||
|
salt := make([]byte, 8)
|
||||||
|
_, err := io.ReadFull(rand.Reader, salt)
|
||||||
if err != nil {
|
if err != nil {
|
||||||
return nil, err
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
key, err := scrypt.Key(password, salt, rounds, 8, 1, 32)
|
||||||
|
if err != nil {
|
||||||
|
return "", err
|
||||||
}
|
}
|
||||||
|
|
||||||
block, err := aes.NewCipher(key)
|
block, err := aes.NewCipher(key)
|
||||||
if err != nil {
|
if err != nil {
|
||||||
return nil, err
|
return "", err
|
||||||
}
|
}
|
||||||
|
|
||||||
b := base64.StdEncoding.EncodeToString(text)
|
h := sha256.New()
|
||||||
ciphertext := make([]byte, aes.BlockSize+len(b))
|
h.Write(data)
|
||||||
|
checksum := h.Sum(nil)
|
||||||
iv := ciphertext[:aes.BlockSize]
|
if len(checksum) != 32 {
|
||||||
if _, err := io.ReadFull(rand.Reader, iv); err != nil {
|
return "", errors.New("wrong cs size")
|
||||||
return nil, err
|
|
||||||
}
|
}
|
||||||
|
|
||||||
|
ciphertext := make([]byte, 32+len(data))
|
||||||
|
|
||||||
|
iv := make([]byte, aes.BlockSize)
|
||||||
|
_, err = io.ReadFull(rand.Reader, iv)
|
||||||
|
if err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
combinedData := make([]byte, 0, 32+len(data))
|
||||||
|
combinedData = append(combinedData, checksum...)
|
||||||
|
combinedData = append(combinedData, data...)
|
||||||
|
|
||||||
cfb := cipher.NewCFBEncrypter(block, iv)
|
cfb := cipher.NewCFBEncrypter(block, iv)
|
||||||
cfb.XORKeyStream(ciphertext[aes.BlockSize:], []byte(b))
|
cfb.XORKeyStream(ciphertext, combinedData)
|
||||||
|
|
||||||
return ciphertext, nil
|
pl := aesPayload{
|
||||||
|
Salt: salt,
|
||||||
|
IV: iv,
|
||||||
|
Data: ciphertext,
|
||||||
|
Version: 1,
|
||||||
|
Rounds: rounds,
|
||||||
}
|
}
|
||||||
|
|
||||||
func DecryptAESSimple(password, text []byte) ([]byte, error) {
|
jbin, err := json.Marshal(pl)
|
||||||
|
if err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
key, err := scrypt.Key(password, nil, 32768, 8, 1, 32) // this is not 100% correct, rounds too low and salt is missing
|
res := base32.StdEncoding.WithPadding(base32.NoPadding).EncodeToString(jbin)
|
||||||
|
|
||||||
|
return res, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func DecryptAESSimple(password []byte, encText string) ([]byte, error) {
|
||||||
|
|
||||||
|
jbin, err := base32.StdEncoding.WithPadding(base32.NoPadding).DecodeString(encText)
|
||||||
|
if err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
var pl aesPayload
|
||||||
|
err = json.Unmarshal(jbin, &pl)
|
||||||
|
if err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
if pl.Version != 1 {
|
||||||
|
return nil, errors.New("unsupported version")
|
||||||
|
}
|
||||||
|
|
||||||
|
key, err := scrypt.Key(password, pl.Salt, pl.Rounds, 8, 1, 32) // this is not 100% correct, rounds too low and salt is missing
|
||||||
if err != nil {
|
if err != nil {
|
||||||
return nil, err
|
return nil, err
|
||||||
}
|
}
|
||||||
@@ -50,18 +108,24 @@ func DecryptAESSimple(password, text []byte) ([]byte, error) {
|
|||||||
return nil, err
|
return nil, err
|
||||||
}
|
}
|
||||||
|
|
||||||
if len(text) < aes.BlockSize {
|
dest := make([]byte, len(pl.Data))
|
||||||
return nil, errors.New("ciphertext too short")
|
|
||||||
|
cfb := cipher.NewCFBDecrypter(block, pl.IV)
|
||||||
|
cfb.XORKeyStream(dest, pl.Data)
|
||||||
|
|
||||||
|
if len(dest) < 32 {
|
||||||
|
return nil, errors.New("payload too small")
|
||||||
}
|
}
|
||||||
|
|
||||||
iv := text[:aes.BlockSize]
|
chck := dest[:32]
|
||||||
text = text[aes.BlockSize:]
|
data := dest[32:]
|
||||||
cfb := cipher.NewCFBDecrypter(block, iv)
|
|
||||||
cfb.XORKeyStream(text, text)
|
|
||||||
|
|
||||||
data, err := base64.StdEncoding.DecodeString(string(text))
|
h := sha256.New()
|
||||||
if err != nil {
|
h.Write(data)
|
||||||
return nil, err
|
chck2 := h.Sum(nil)
|
||||||
|
|
||||||
|
if !bytes.Equal(chck, chck2) {
|
||||||
|
return nil, errors.New("checksum mismatch")
|
||||||
}
|
}
|
||||||
|
|
||||||
return data, nil
|
return data, nil
|
||||||
|
@@ -1,6 +1,9 @@
|
|||||||
package cryptext
|
package cryptext
|
||||||
|
|
||||||
import "testing"
|
import (
|
||||||
|
"fmt"
|
||||||
|
"testing"
|
||||||
|
)
|
||||||
|
|
||||||
func TestEncryptAESSimple(t *testing.T) {
|
func TestEncryptAESSimple(t *testing.T) {
|
||||||
|
|
||||||
@@ -8,15 +11,25 @@ func TestEncryptAESSimple(t *testing.T) {
|
|||||||
|
|
||||||
str1 := []byte("Hello World")
|
str1 := []byte("Hello World")
|
||||||
|
|
||||||
str2, err := EncryptAESSimple(pw, str1)
|
str2, err := EncryptAESSimple(pw, str1, 512)
|
||||||
if err != nil {
|
if err != nil {
|
||||||
panic(err)
|
panic(err)
|
||||||
}
|
}
|
||||||
|
|
||||||
|
fmt.Printf("%s\n", str2)
|
||||||
|
|
||||||
str3, err := DecryptAESSimple(pw, str2)
|
str3, err := DecryptAESSimple(pw, str2)
|
||||||
if err != nil {
|
if err != nil {
|
||||||
panic(err)
|
panic(err)
|
||||||
}
|
}
|
||||||
|
|
||||||
assertEqual(t, string(str1), string(str3))
|
assertEqual(t, string(str1), string(str3))
|
||||||
|
|
||||||
|
str4, err := EncryptAESSimple(pw, str3, 512)
|
||||||
|
if err != nil {
|
||||||
|
panic(err)
|
||||||
|
}
|
||||||
|
|
||||||
|
assertNotEqual(t, string(str2), string(str4))
|
||||||
|
|
||||||
}
|
}
|
||||||
|
@@ -23,3 +23,9 @@ func assertEqual(t *testing.T, actual string, expected string) {
|
|||||||
t.Errorf("values differ: Actual: '%v', Expected: '%v'", actual, expected)
|
t.Errorf("values differ: Actual: '%v', Expected: '%v'", actual, expected)
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|
||||||
|
func assertNotEqual(t *testing.T, actual string, expected string) {
|
||||||
|
if actual == expected {
|
||||||
|
t.Errorf("values do not differ: Actual: '%v', Expected: '%v'", actual, expected)
|
||||||
|
}
|
||||||
|
}
|
||||||
|
@@ -265,6 +265,16 @@ func ArrMap[T1 any, T2 any](arr []T1, conv func(v T1) T2) []T2 {
|
|||||||
return r
|
return r
|
||||||
}
|
}
|
||||||
|
|
||||||
|
func ArrFilterMap[T1 any, T2 any](arr []T1, filter func(v T1) bool, conv func(v T1) T2) []T2 {
|
||||||
|
r := make([]T2, 0, len(arr))
|
||||||
|
for _, v := range arr {
|
||||||
|
if filter(v) {
|
||||||
|
r = append(r, conv(v))
|
||||||
|
}
|
||||||
|
}
|
||||||
|
return r
|
||||||
|
}
|
||||||
|
|
||||||
func ArrSum[T NumberConstraint](arr []T) T {
|
func ArrSum[T NumberConstraint](arr []T) T {
|
||||||
var r T = 0
|
var r T = 0
|
||||||
for _, v := range arr {
|
for _, v := range arr {
|
||||||
|
@@ -7,3 +7,11 @@ func MapKeyArr[T comparable, V any](v map[T]V) []T {
|
|||||||
}
|
}
|
||||||
return result
|
return result
|
||||||
}
|
}
|
||||||
|
|
||||||
|
func ArrToMap[T comparable, V any](a []V, keyfunc func(V) T) map[T]V {
|
||||||
|
result := make(map[T]V, len(a))
|
||||||
|
for _, v := range a {
|
||||||
|
result[keyfunc(v)] = v
|
||||||
|
}
|
||||||
|
return result
|
||||||
|
}
|
||||||
|
@@ -2,58 +2,50 @@ package syncext
|
|||||||
|
|
||||||
import (
|
import (
|
||||||
"context"
|
"context"
|
||||||
"sync/atomic"
|
"gogs.mikescher.com/BlackForestBytes/goext/langext"
|
||||||
|
"sync"
|
||||||
"time"
|
"time"
|
||||||
)
|
)
|
||||||
|
|
||||||
type AtomicBool struct {
|
type AtomicBool struct {
|
||||||
v int32
|
v bool
|
||||||
waiter chan bool // unbuffered
|
listener map[string]chan bool
|
||||||
|
lock sync.Mutex
|
||||||
}
|
}
|
||||||
|
|
||||||
func NewAtomicBool(value bool) *AtomicBool {
|
func NewAtomicBool(value bool) *AtomicBool {
|
||||||
if value {
|
return &AtomicBool{
|
||||||
return &AtomicBool{v: 1, waiter: make(chan bool)}
|
v: value,
|
||||||
} else {
|
listener: make(map[string]chan bool),
|
||||||
return &AtomicBool{v: 0, waiter: make(chan bool)}
|
lock: sync.Mutex{},
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|
||||||
func (a *AtomicBool) Get() bool {
|
func (a *AtomicBool) Get() bool {
|
||||||
return atomic.LoadInt32(&a.v) == 1
|
a.lock.Lock()
|
||||||
|
defer a.lock.Unlock()
|
||||||
|
return a.v
|
||||||
}
|
}
|
||||||
|
|
||||||
func (a *AtomicBool) Set(value bool) {
|
func (a *AtomicBool) Set(value bool) {
|
||||||
if value {
|
a.lock.Lock()
|
||||||
atomic.StoreInt32(&a.v, 1)
|
defer a.lock.Unlock()
|
||||||
} else {
|
|
||||||
atomic.StoreInt32(&a.v, 0)
|
|
||||||
}
|
|
||||||
|
|
||||||
|
a.v = value
|
||||||
|
|
||||||
|
for k, v := range a.listener {
|
||||||
select {
|
select {
|
||||||
case a.waiter <- value:
|
case v <- value:
|
||||||
// message sent
|
// message sent
|
||||||
default:
|
default:
|
||||||
// no receiver on channel
|
// no receiver on channel
|
||||||
|
delete(a.listener, k)
|
||||||
|
}
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|
||||||
func (a *AtomicBool) Wait(waitFor bool) {
|
func (a *AtomicBool) Wait(waitFor bool) {
|
||||||
if a.Get() == waitFor {
|
_ = a.WaitWithContext(context.Background(), waitFor)
|
||||||
return
|
|
||||||
}
|
|
||||||
|
|
||||||
for {
|
|
||||||
if v, ok := ReadChannelWithTimeout(a.waiter, 128*time.Millisecond); ok {
|
|
||||||
if v == waitFor {
|
|
||||||
return
|
|
||||||
}
|
|
||||||
} else {
|
|
||||||
if a.Get() == waitFor {
|
|
||||||
return
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
}
|
||||||
|
|
||||||
func (a *AtomicBool) WaitWithTimeout(timeout time.Duration, waitFor bool) error {
|
func (a *AtomicBool) WaitWithTimeout(timeout time.Duration, waitFor bool) error {
|
||||||
@@ -71,12 +63,25 @@ func (a *AtomicBool) WaitWithContext(ctx context.Context, waitFor bool) error {
|
|||||||
return nil
|
return nil
|
||||||
}
|
}
|
||||||
|
|
||||||
|
uuid, _ := langext.NewHexUUID()
|
||||||
|
|
||||||
|
waitchan := make(chan bool)
|
||||||
|
|
||||||
|
a.lock.Lock()
|
||||||
|
a.listener[uuid] = waitchan
|
||||||
|
a.lock.Unlock()
|
||||||
|
defer func() {
|
||||||
|
a.lock.Lock()
|
||||||
|
delete(a.listener, uuid)
|
||||||
|
a.lock.Unlock()
|
||||||
|
}()
|
||||||
|
|
||||||
for {
|
for {
|
||||||
if err := ctx.Err(); err != nil {
|
if err := ctx.Err(); err != nil {
|
||||||
return err
|
return err
|
||||||
}
|
}
|
||||||
|
|
||||||
timeOut := 128 * time.Millisecond
|
timeOut := 1024 * time.Millisecond
|
||||||
|
|
||||||
if dl, ok := ctx.Deadline(); ok {
|
if dl, ok := ctx.Deadline(); ok {
|
||||||
timeOutMax := dl.Sub(time.Now())
|
timeOutMax := dl.Sub(time.Now())
|
||||||
@@ -87,7 +92,7 @@ func (a *AtomicBool) WaitWithContext(ctx context.Context, waitFor bool) error {
|
|||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|
||||||
if v, ok := ReadChannelWithTimeout(a.waiter, timeOut); ok {
|
if v, ok := ReadChannelWithTimeout(waitchan, timeOut); ok {
|
||||||
if v == waitFor {
|
if v == waitFor {
|
||||||
return nil
|
return nil
|
||||||
}
|
}
|
||||||
|
Reference in New Issue
Block a user