forked from yuxh/gearman-go
		
	make a new branch, refactoring codes
--HG-- branch : 0.1 rename : gearman/client/client.go => client/client.go rename : gearman/client/client_test.go => client/client_test.go rename : gearman/client/clientjob.go => client/job.go rename : gearman/gearman.go => common/gearman.go rename : gearman/worker/jobagent.go => worker/jobagent.go rename : gearman/worker/worker.go => worker/worker.go rename : gearman/worker/worker_test.go => worker/worker_test.go rename : gearman/worker/workerjob.go => worker/workerjob.go
This commit is contained in:
		
							parent
							
								
									e4172dec11
								
							
						
					
					
						commit
						7614c2678a
					
				
							
								
								
									
										263
									
								
								client/client.go
									
									
									
									
									
										Normal file
									
								
							
							
						
						
									
										263
									
								
								client/client.go
									
									
									
									
									
										Normal file
									
								
							@ -0,0 +1,263 @@
 | 
				
			|||||||
 | 
					// Copyright 2011 Xing Xing <mikespook@gmail.com>.
 | 
				
			||||||
 | 
					// All rights reserved.
 | 
				
			||||||
 | 
					// Use of this source code is governed by a MIT
 | 
				
			||||||
 | 
					// license that can be found in the LICENSE file.
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					package client
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					import (
 | 
				
			||||||
 | 
					    "bytes"
 | 
				
			||||||
 | 
					    "io"
 | 
				
			||||||
 | 
					    "net"
 | 
				
			||||||
 | 
					    "strconv"
 | 
				
			||||||
 | 
					    "bitbucket.org/mikespook/golib/autoinc"
 | 
				
			||||||
 | 
					    "bitbucket.org/mikespook/gearman-go/common"
 | 
				
			||||||
 | 
					)
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// Job handler
 | 
				
			||||||
 | 
					type JobHandler func(*Job) error
 | 
				
			||||||
 | 
					// Status handler
 | 
				
			||||||
 | 
					// handle, known, running, numerator, denominator
 | 
				
			||||||
 | 
					type StatusHandler func(string, bool, bool, uint64, uint64)
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					/* 
 | 
				
			||||||
 | 
					The client side api for gearman
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					usage:
 | 
				
			||||||
 | 
					    c := client.New("tcp4", "127.0.0.1:4730")
 | 
				
			||||||
 | 
					    handle := c.Do("foobar", []byte("data here"), JOB_LOW | JOB_BG)
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					*/
 | 
				
			||||||
 | 
					type Client struct {
 | 
				
			||||||
 | 
					    ErrHandler common.ErrorHandler
 | 
				
			||||||
 | 
					    JobHandler JobHandler
 | 
				
			||||||
 | 
					    StatusHandler StatusHandler
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					    in chan []byte
 | 
				
			||||||
 | 
					    out chan *Job
 | 
				
			||||||
 | 
					    jobCreated chan *Job
 | 
				
			||||||
 | 
					    conn     net.Conn
 | 
				
			||||||
 | 
					    ai *autoinc.AutoInc
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// Create a new client.
 | 
				
			||||||
 | 
					// Connect to "addr" through "network"
 | 
				
			||||||
 | 
					// Eg.
 | 
				
			||||||
 | 
					//      client, err := client.New("tcp4", "127.0.0.1:4730")
 | 
				
			||||||
 | 
					func New(network, addr string) (client *Client, err error) {
 | 
				
			||||||
 | 
					    conn, err := net.Dial(network, addr)
 | 
				
			||||||
 | 
					    if err != nil {
 | 
				
			||||||
 | 
					        return
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					    client = &Client{
 | 
				
			||||||
 | 
					        jobCreated: make(chan *Job),
 | 
				
			||||||
 | 
					        in: make(chan []byte, common.QUEUE_SIZE),
 | 
				
			||||||
 | 
					        out: make(chan *Job, common.QUEUE_SIZE),
 | 
				
			||||||
 | 
					        conn: conn,
 | 
				
			||||||
 | 
					        ai: autoinc.New(0, 1),
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					    go client.outLoop()
 | 
				
			||||||
 | 
					    go client.inLoop()
 | 
				
			||||||
 | 
					    return
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// out loop
 | 
				
			||||||
 | 
					func (client *Client) outLoop() {
 | 
				
			||||||
 | 
					    ok := true
 | 
				
			||||||
 | 
					    for ok {
 | 
				
			||||||
 | 
					        if job, ok := <-client.out; ok {
 | 
				
			||||||
 | 
					            client.write(job.Encode())
 | 
				
			||||||
 | 
					        }
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// in loop
 | 
				
			||||||
 | 
					func (client *Client) inLoop() {
 | 
				
			||||||
 | 
					    for {
 | 
				
			||||||
 | 
					        rel, err := client.read()
 | 
				
			||||||
 | 
					        if err != nil {
 | 
				
			||||||
 | 
					            client.err(err)
 | 
				
			||||||
 | 
					            continue
 | 
				
			||||||
 | 
					        }
 | 
				
			||||||
 | 
					        job, err := decodeJob(rel)
 | 
				
			||||||
 | 
					        if err != nil {
 | 
				
			||||||
 | 
					            client.err(err)
 | 
				
			||||||
 | 
					            continue
 | 
				
			||||||
 | 
					        }
 | 
				
			||||||
 | 
					        switch job.DataType {
 | 
				
			||||||
 | 
					        case common.ERROR:
 | 
				
			||||||
 | 
					            _, err := common.GetError(job.Data)
 | 
				
			||||||
 | 
					            client.err(err)
 | 
				
			||||||
 | 
					        case common.WORK_DATA, common.WORK_WARNING, common.WORK_STATUS,
 | 
				
			||||||
 | 
					            common.WORK_COMPLETE, common.WORK_FAIL, common.WORK_EXCEPTION,
 | 
				
			||||||
 | 
					            common.ECHO_RES:
 | 
				
			||||||
 | 
					            client.handleJob(job)
 | 
				
			||||||
 | 
					        case common.JOB_CREATED:
 | 
				
			||||||
 | 
					            client.jobCreated <- job
 | 
				
			||||||
 | 
					        case common.STATUS_RES:
 | 
				
			||||||
 | 
					            client.handleStatus(job)
 | 
				
			||||||
 | 
					        }
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// inner read
 | 
				
			||||||
 | 
					func (client *Client) read() (data []byte, err error) {
 | 
				
			||||||
 | 
					    if len(client.in) > 0 {
 | 
				
			||||||
 | 
					        // incoming queue is not empty
 | 
				
			||||||
 | 
					        data = <-client.in
 | 
				
			||||||
 | 
					    } else {
 | 
				
			||||||
 | 
					        // empty queue, read data from socket
 | 
				
			||||||
 | 
					        for {
 | 
				
			||||||
 | 
					            buf := make([]byte, common.BUFFER_SIZE)
 | 
				
			||||||
 | 
					            var n int
 | 
				
			||||||
 | 
					            if n, err = client.conn.Read(buf); err != nil {
 | 
				
			||||||
 | 
					                if err == io.EOF && n == 0 {
 | 
				
			||||||
 | 
					                    break
 | 
				
			||||||
 | 
					                }
 | 
				
			||||||
 | 
					                return
 | 
				
			||||||
 | 
					            }
 | 
				
			||||||
 | 
					            data = append(data, buf[0:n]...)
 | 
				
			||||||
 | 
					            if n < common.BUFFER_SIZE {
 | 
				
			||||||
 | 
					                break
 | 
				
			||||||
 | 
					            }
 | 
				
			||||||
 | 
					        }
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					    // split package
 | 
				
			||||||
 | 
					    start, end := 0, 4
 | 
				
			||||||
 | 
					    tl := len(data)
 | 
				
			||||||
 | 
					    for i := 0; i < tl; i++ {
 | 
				
			||||||
 | 
					        if string(data[start:end]) == common.RES_STR {
 | 
				
			||||||
 | 
					            l := int(common.BytesToUint32([4]byte{data[start+8], data[start+9], data[start+10], data[start+11]}))
 | 
				
			||||||
 | 
					            total := l + 12
 | 
				
			||||||
 | 
					            if total == tl {
 | 
				
			||||||
 | 
					                return
 | 
				
			||||||
 | 
					            } else {
 | 
				
			||||||
 | 
					                client.in <- data[total:]
 | 
				
			||||||
 | 
					                data = data[:total]
 | 
				
			||||||
 | 
					                return
 | 
				
			||||||
 | 
					            }
 | 
				
			||||||
 | 
					        } else {
 | 
				
			||||||
 | 
					            start++
 | 
				
			||||||
 | 
					            end++
 | 
				
			||||||
 | 
					        }
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					    return nil, common.Errorf("Invalid data: %V", data)
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// error handler
 | 
				
			||||||
 | 
					func (client *Client) err (e error) {
 | 
				
			||||||
 | 
					    if client.ErrHandler != nil {
 | 
				
			||||||
 | 
					        client.ErrHandler(e)
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// job handler
 | 
				
			||||||
 | 
					func (client *Client) handleJob(job *Job) {
 | 
				
			||||||
 | 
					    if client.JobHandler != nil {
 | 
				
			||||||
 | 
					        if err := client.JobHandler(job); err != nil {
 | 
				
			||||||
 | 
					            client.err(err)
 | 
				
			||||||
 | 
					        }
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// status handler
 | 
				
			||||||
 | 
					func (client *Client) handleStatus(job *Job) {
 | 
				
			||||||
 | 
					    if client.StatusHandler != nil {
 | 
				
			||||||
 | 
					        data := bytes.SplitN(job.Data, []byte{'\x00'}, 5)
 | 
				
			||||||
 | 
					        if len(data) != 5 {
 | 
				
			||||||
 | 
					            client.err(common.Errorf("Invalid data: %V", job.Data))
 | 
				
			||||||
 | 
					            return
 | 
				
			||||||
 | 
					        }
 | 
				
			||||||
 | 
					        handle := string(data[0])
 | 
				
			||||||
 | 
					        known := (data[1][0] == '1')
 | 
				
			||||||
 | 
					        running := (data[2][0] == '1')
 | 
				
			||||||
 | 
					        numerator, err := strconv.ParseUint(string(data[3][0]), 10, 0)
 | 
				
			||||||
 | 
					        if err != nil {
 | 
				
			||||||
 | 
					            client.err(common.Errorf("Invalid handle: %s", data[3][0]))
 | 
				
			||||||
 | 
					            return
 | 
				
			||||||
 | 
					        }
 | 
				
			||||||
 | 
					        denominator, err := strconv.ParseUint(string(data[4][0]), 10, 0)
 | 
				
			||||||
 | 
					        if err != nil {
 | 
				
			||||||
 | 
					            client.err(common.Errorf("Invalid handle: %s", data[4][0]))
 | 
				
			||||||
 | 
					            return
 | 
				
			||||||
 | 
					        }
 | 
				
			||||||
 | 
					        client.StatusHandler(handle, known, running, numerator, denominator)
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// Do the function.
 | 
				
			||||||
 | 
					// funcname is a string with function name.
 | 
				
			||||||
 | 
					// data is encoding to byte array.
 | 
				
			||||||
 | 
					// flag set the job type, include running level: JOB_LOW, JOB_NORMAL, JOB_HIGH,
 | 
				
			||||||
 | 
					// and if it is background job: JOB_BG.
 | 
				
			||||||
 | 
					// JOB_LOW | JOB_BG means the job is running with low level in background.
 | 
				
			||||||
 | 
					func (client *Client) Do(funcname string, data []byte, flag byte) (handle string, err error) {
 | 
				
			||||||
 | 
					    var datatype uint32
 | 
				
			||||||
 | 
					    if flag & common.JOB_LOW == common.JOB_LOW {
 | 
				
			||||||
 | 
					        if flag & common.JOB_BG == common.JOB_BG {
 | 
				
			||||||
 | 
					            datatype = common.SUBMIT_JOB_LOW_BG
 | 
				
			||||||
 | 
					        } else {
 | 
				
			||||||
 | 
					            datatype = common.SUBMIT_JOB_LOW
 | 
				
			||||||
 | 
					        }
 | 
				
			||||||
 | 
					    } else if flag & common.JOB_HIGH == common.JOB_HIGH {
 | 
				
			||||||
 | 
					        if flag & common.JOB_BG == common.JOB_BG {
 | 
				
			||||||
 | 
					            datatype = common.SUBMIT_JOB_HIGH_BG
 | 
				
			||||||
 | 
					        } else {
 | 
				
			||||||
 | 
					            datatype = common.SUBMIT_JOB_HIGH
 | 
				
			||||||
 | 
					        }
 | 
				
			||||||
 | 
					    } else if flag & common.JOB_BG == common.JOB_BG {
 | 
				
			||||||
 | 
					        datatype = common.SUBMIT_JOB_BG
 | 
				
			||||||
 | 
					    } else {
 | 
				
			||||||
 | 
					        datatype = common.SUBMIT_JOB
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					    uid := strconv.Itoa(int(client.ai.Id()))
 | 
				
			||||||
 | 
					    l := len(funcname) + len(uid) + len(data) + 2
 | 
				
			||||||
 | 
					    rel := make([]byte, l)
 | 
				
			||||||
 | 
					    rel = append(rel, []byte(funcname)...)          // len(funcname)
 | 
				
			||||||
 | 
					    rel = append(rel, '\x00')                       // 1 Byte
 | 
				
			||||||
 | 
					    rel = append(rel, []byte(uid)...)               // len(uid)
 | 
				
			||||||
 | 
					    rel = append(rel, '\x00')                       // 1 Byte
 | 
				
			||||||
 | 
					    rel = append(rel, data...)                      // len(data)
 | 
				
			||||||
 | 
					    client.writeJob(newJob(common.REQ, datatype, rel))
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					    // Waiting for JOB_CREATED
 | 
				
			||||||
 | 
					    job := <-client.jobCreated
 | 
				
			||||||
 | 
					    return string(job.Data), nil
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// Get job status from job server.
 | 
				
			||||||
 | 
					// !!!Not fully tested.!!!
 | 
				
			||||||
 | 
					func (client *Client) Status(handle string) {
 | 
				
			||||||
 | 
					    job := newJob(common.REQ, common.GET_STATUS, []byte(handle))
 | 
				
			||||||
 | 
					    client.writeJob(job)
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// Send a something out, get the samething back.
 | 
				
			||||||
 | 
					func (client *Client) Echo(data []byte) {
 | 
				
			||||||
 | 
					    client.writeJob(newJob(common.REQ, common.ECHO_REQ, data))
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// Send the job to job server.
 | 
				
			||||||
 | 
					func (client *Client) writeJob(job *Job) {
 | 
				
			||||||
 | 
					    client.out <- job
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// Internal write
 | 
				
			||||||
 | 
					func (client *Client) write(buf []byte) (err error) {
 | 
				
			||||||
 | 
					    var n int
 | 
				
			||||||
 | 
					    for i := 0; i < len(buf); i += n {
 | 
				
			||||||
 | 
					        n, err = client.conn.Write(buf[i:])
 | 
				
			||||||
 | 
					        if err != nil {
 | 
				
			||||||
 | 
					            return
 | 
				
			||||||
 | 
					        }
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					    return
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// Close
 | 
				
			||||||
 | 
					func (client *Client) Close() (err error) {
 | 
				
			||||||
 | 
					    close(client.jobCreated)
 | 
				
			||||||
 | 
					    close(client.in)
 | 
				
			||||||
 | 
					    return client.conn.Close();
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
							
								
								
									
										43
									
								
								client/client_test.go
									
									
									
									
									
										Normal file
									
								
							
							
						
						
									
										43
									
								
								client/client_test.go
									
									
									
									
									
										Normal file
									
								
							@ -0,0 +1,43 @@
 | 
				
			|||||||
 | 
					package client
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					import (
 | 
				
			||||||
 | 
					    "bitbucket.org/mikespook/gearman-go/common"
 | 
				
			||||||
 | 
					    "testing"
 | 
				
			||||||
 | 
					)
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					var client *Client
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					func TestClientAddServer(t *testing.T) {
 | 
				
			||||||
 | 
					    t.Log("Add local server 127.0.0.1:4730")
 | 
				
			||||||
 | 
					    var err error
 | 
				
			||||||
 | 
					    if client, err = New("tcp4", "127.0.0.1:4730"); err != nil {
 | 
				
			||||||
 | 
					        t.Error(err)
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					func TestClientEcho(t *testing.T) {
 | 
				
			||||||
 | 
					    client.JobHandler = func(job *Job) error {
 | 
				
			||||||
 | 
					        echo := string(job.Data)
 | 
				
			||||||
 | 
					        if echo == "Hello world" {
 | 
				
			||||||
 | 
					            t.Log(echo)
 | 
				
			||||||
 | 
					        } else {
 | 
				
			||||||
 | 
					            t.Errorf("Invalid echo data: %s", job.Data)
 | 
				
			||||||
 | 
					        }
 | 
				
			||||||
 | 
					        return nil
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					    client.Echo([]byte("Hello world"))
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					func TestClientDo(t *testing.T) {
 | 
				
			||||||
 | 
					    if handle, err := client.Do("ToUpper", []byte("abcdef"), common.JOB_LOW|common.JOB_BG); err != nil {
 | 
				
			||||||
 | 
					        t.Error(err)
 | 
				
			||||||
 | 
					    } else {
 | 
				
			||||||
 | 
					        t.Log(handle)
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					func TestClientClose(t *testing.T) {
 | 
				
			||||||
 | 
					    if err := client.Close(); err != nil {
 | 
				
			||||||
 | 
					        t.Error(err)
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
							
								
								
									
										105
									
								
								client/job.go
									
									
									
									
									
										Normal file
									
								
							
							
						
						
									
										105
									
								
								client/job.go
									
									
									
									
									
										Normal file
									
								
							@ -0,0 +1,105 @@
 | 
				
			|||||||
 | 
					// Copyright 2011 Xing Xing <mikespook@gmail.com>.
 | 
				
			||||||
 | 
					// All rights reserved.
 | 
				
			||||||
 | 
					// Use of this source code is governed by a MIT
 | 
				
			||||||
 | 
					// license that can be found in the LICENSE file.
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					package client
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					import (
 | 
				
			||||||
 | 
					    "bytes"
 | 
				
			||||||
 | 
					    "bitbucket.org/mikespook/gearman-go/common"
 | 
				
			||||||
 | 
					)
 | 
				
			||||||
 | 
					// An error handler
 | 
				
			||||||
 | 
					type ErrorHandler func(error)
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// Client side job
 | 
				
			||||||
 | 
					type Job struct {
 | 
				
			||||||
 | 
					    Data                []byte
 | 
				
			||||||
 | 
					    Handle, UniqueId    string
 | 
				
			||||||
 | 
					    magicCode, DataType uint32
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// Create a new job
 | 
				
			||||||
 | 
					func newJob(magiccode, datatype uint32, data []byte) (job *Job) {
 | 
				
			||||||
 | 
					    return &Job{magicCode: magiccode,
 | 
				
			||||||
 | 
					        DataType: datatype,
 | 
				
			||||||
 | 
					        Data:     data}
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// Decode a job from byte slice
 | 
				
			||||||
 | 
					func decodeJob(data []byte) (job *Job, err error) {
 | 
				
			||||||
 | 
					    if len(data) < 12 {
 | 
				
			||||||
 | 
					        return nil, common.Errorf("Invalid data: %V", data)
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					    datatype := common.BytesToUint32([4]byte{data[4], data[5], data[6], data[7]})
 | 
				
			||||||
 | 
					    l := common.BytesToUint32([4]byte{data[8], data[9], data[10], data[11]})
 | 
				
			||||||
 | 
					    if len(data[12:]) != int(l) {
 | 
				
			||||||
 | 
					        return nil, common.Errorf("Invalid data: %V", data)
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					    data = data[12:]
 | 
				
			||||||
 | 
					    return newJob(common.RES, datatype, data), nil
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// Encode a job to byte slice
 | 
				
			||||||
 | 
					func (job *Job) Encode() (data []byte) {
 | 
				
			||||||
 | 
					    l := len(job.Data) + 12
 | 
				
			||||||
 | 
					    data = make([]byte, l)
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					    magiccode := common.Uint32ToBytes(job.magicCode)
 | 
				
			||||||
 | 
					    datatype := common.Uint32ToBytes(job.DataType)
 | 
				
			||||||
 | 
					    datalength := common.Uint32ToBytes(uint32(l))
 | 
				
			||||||
 | 
					    for i := 0; i < l; i ++ {
 | 
				
			||||||
 | 
					        switch {
 | 
				
			||||||
 | 
					            case i < 4:
 | 
				
			||||||
 | 
					                data[i] = magiccode[i]
 | 
				
			||||||
 | 
					            case i < 8:
 | 
				
			||||||
 | 
					                data[i] = datatype[i - 4]
 | 
				
			||||||
 | 
					            case i < 12:
 | 
				
			||||||
 | 
					                data[i] = datalength[i - 8]
 | 
				
			||||||
 | 
					            default:
 | 
				
			||||||
 | 
					                data[i] = job.Data[i - 12]
 | 
				
			||||||
 | 
					        }
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					    return
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// Extract the job's result.
 | 
				
			||||||
 | 
					func (job *Job) Result() (data []byte, err error) {
 | 
				
			||||||
 | 
					    switch job.DataType {
 | 
				
			||||||
 | 
					    case common.WORK_FAIL:
 | 
				
			||||||
 | 
					        job.Handle = string(job.Data)
 | 
				
			||||||
 | 
					        return nil, common.ErrWorkFail
 | 
				
			||||||
 | 
					    case common.WORK_EXCEPTION:
 | 
				
			||||||
 | 
					        err = common.ErrWorkException
 | 
				
			||||||
 | 
					        fallthrough
 | 
				
			||||||
 | 
					    case common.WORK_COMPLETE:
 | 
				
			||||||
 | 
					        s := bytes.SplitN(job.Data, []byte{'\x00'}, 2)
 | 
				
			||||||
 | 
					        if len(s) != 2 {
 | 
				
			||||||
 | 
					            return nil, common.Errorf("Invalid data: %V", job.Data)
 | 
				
			||||||
 | 
					        }
 | 
				
			||||||
 | 
					        job.Handle = string(s[0])
 | 
				
			||||||
 | 
					        data = s[1]
 | 
				
			||||||
 | 
					    default:
 | 
				
			||||||
 | 
					        err = common.ErrDataType
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					    return
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// Extract the job's update
 | 
				
			||||||
 | 
					func (job *Job) Update() (data []byte, err error) {
 | 
				
			||||||
 | 
					    if job.DataType != common.WORK_DATA && job.DataType != common.WORK_WARNING {
 | 
				
			||||||
 | 
					        err = common.ErrDataType
 | 
				
			||||||
 | 
					        return
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					    s := bytes.SplitN(job.Data, []byte{'\x00'}, 2)
 | 
				
			||||||
 | 
					    if len(s) != 2 {
 | 
				
			||||||
 | 
					        err = common.ErrInvalidData
 | 
				
			||||||
 | 
					        return
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					    if job.DataType == common.WORK_WARNING {
 | 
				
			||||||
 | 
					        err = common.ErrWorkWarning
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					    job.Handle = string(s[0])
 | 
				
			||||||
 | 
					    data = s[1]
 | 
				
			||||||
 | 
					    return
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
							
								
								
									
										47
									
								
								common/error.go
									
									
									
									
									
										Normal file
									
								
							
							
						
						
									
										47
									
								
								common/error.go
									
									
									
									
									
										Normal file
									
								
							@ -0,0 +1,47 @@
 | 
				
			|||||||
 | 
					// Copyright 2011 - 2012 Xing Xing <mikespook@gmail.com>.
 | 
				
			||||||
 | 
					// All rights reserved.
 | 
				
			||||||
 | 
					// Use of this source code is governed by a MIT
 | 
				
			||||||
 | 
					// license that can be found in the LICENSE file.
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					package common
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					import (
 | 
				
			||||||
 | 
					    "fmt"
 | 
				
			||||||
 | 
					    "bytes"
 | 
				
			||||||
 | 
					    "errors"
 | 
				
			||||||
 | 
					    "syscall"
 | 
				
			||||||
 | 
					)
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					var (
 | 
				
			||||||
 | 
					    ErrInvalidData   = errors.New("Invalid data.")
 | 
				
			||||||
 | 
					    ErrWorkWarning   = errors.New("Work warning.")
 | 
				
			||||||
 | 
					    ErrWorkFail      = errors.New("Work fail.")
 | 
				
			||||||
 | 
					    ErrWorkException = errors.New("Work exeption.")
 | 
				
			||||||
 | 
					    ErrDataType      = errors.New("Invalid data type.")
 | 
				
			||||||
 | 
					    ErrOutOfCap      = errors.New("Out of the capability.")
 | 
				
			||||||
 | 
					    ErrNotConn       = errors.New("Did not connect to job server.")
 | 
				
			||||||
 | 
					    ErrFuncNotFound  = errors.New("The function was not found.")
 | 
				
			||||||
 | 
					)
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// Extract the error message
 | 
				
			||||||
 | 
					func GetError(data []byte) (eno syscall.Errno, err error) {
 | 
				
			||||||
 | 
					    rel := bytes.SplitN(data, []byte{'\x00'}, 2)
 | 
				
			||||||
 | 
					    if len(rel) != 2 {
 | 
				
			||||||
 | 
					        err = Errorf("Not a error data: %V", data)
 | 
				
			||||||
 | 
					        return
 | 
				
			||||||
 | 
					    }
 | 
				
			||||||
 | 
					    l := len(rel[0])
 | 
				
			||||||
 | 
					    eno = syscall.Errno(BytesToUint32([4]byte{rel[0][l-4], rel[0][l-3], rel[0][l-2], rel[0][l-1]}))
 | 
				
			||||||
 | 
					    err = errors.New(string(rel[1]))
 | 
				
			||||||
 | 
					    return
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// Get a formated error
 | 
				
			||||||
 | 
					func Errorf(format string, msg ... interface{}) error {
 | 
				
			||||||
 | 
					    return errors.New(fmt.Sprintf(format, msg ... ))
 | 
				
			||||||
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					// An error handler
 | 
				
			||||||
 | 
					type ErrorHandler func(error)
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					
 | 
				
			||||||
@ -1,30 +1,17 @@
 | 
				
			|||||||
// Copyright 2011 Xing Xing <mikespook@gmail.com> All rights reserved.
 | 
					// Copyright 2011 - 2012 Xing Xing <mikespook@gmail.com>.
 | 
				
			||||||
 | 
					// All rights reserved.
 | 
				
			||||||
// Use of this source code is governed by a MIT
 | 
					// Use of this source code is governed by a MIT
 | 
				
			||||||
// license that can be found in the LICENSE file.
 | 
					// license that can be found in the LICENSE file.
 | 
				
			||||||
 | 
					
 | 
				
			||||||
/*
 | 
					package common
 | 
				
			||||||
This module is Gearman API for golang. 
 | 
					 | 
				
			||||||
The protocol was implemented by native way.
 | 
					 | 
				
			||||||
*/
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
package gearman
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
import (
 | 
					 | 
				
			||||||
    "bytes"
 | 
					 | 
				
			||||||
    "errors"
 | 
					 | 
				
			||||||
    "syscall"
 | 
					 | 
				
			||||||
)
 | 
					 | 
				
			||||||
 | 
					
 | 
				
			||||||
const (
 | 
					const (
 | 
				
			||||||
    // tcp4 is tested. You can modify this to 'tcp' for both ipv4 and ipv6,
 | 
					 | 
				
			||||||
    // or 'tcp6' only for ipv6.
 | 
					 | 
				
			||||||
    TCP = "tcp4"
 | 
					 | 
				
			||||||
    // the number limited for job servers.
 | 
					    // the number limited for job servers.
 | 
				
			||||||
    WORKER_SERVER_CAP = 32
 | 
					    WORKER_SERVER_CAP = 32
 | 
				
			||||||
    // the number limited for functions.
 | 
					    // the number limited for functions.
 | 
				
			||||||
    WORKER_FUNCTION_CAP = 512
 | 
					    WORKER_FUNCTION_CAP = 512
 | 
				
			||||||
    // queue size
 | 
					    // queue size
 | 
				
			||||||
    QUEUE_CAP = 512
 | 
					    QUEUE_SIZE = 512
 | 
				
			||||||
    // read buffer size
 | 
					    // read buffer size
 | 
				
			||||||
    BUFFER_SIZE = 1024
 | 
					    BUFFER_SIZE = 1024
 | 
				
			||||||
 | 
					
 | 
				
			||||||
@ -80,44 +67,14 @@ const (
 | 
				
			|||||||
    JOB_HIGH = 4
 | 
					    JOB_HIGH = 4
 | 
				
			||||||
)
 | 
					)
 | 
				
			||||||
 | 
					
 | 
				
			||||||
var (
 | 
					 | 
				
			||||||
    ErrIsNotErr      = errors.New("The input is not a error data.")
 | 
					 | 
				
			||||||
    ErrInvalidData   = errors.New("Invalid data.")
 | 
					 | 
				
			||||||
    ErrWorkWarning   = errors.New("Work warning.")
 | 
					 | 
				
			||||||
    ErrWorkFail      = errors.New("Work fail.")
 | 
					 | 
				
			||||||
    ErrWorkException = errors.New("Work exeption.")
 | 
					 | 
				
			||||||
    ErrDataType      = errors.New("Invalid data type.")
 | 
					 | 
				
			||||||
    ErrOutOfCap      = errors.New("Out of the capability.")
 | 
					 | 
				
			||||||
    ErrNotConn       = errors.New("Did not connect to job server.")
 | 
					 | 
				
			||||||
    ErrFuncNotFound  = errors.New("The function was not found.")
 | 
					 | 
				
			||||||
)
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Extract the error message
 | 
					 | 
				
			||||||
func GetError(data []byte) (eno syscall.Errno, err error) {
 | 
					 | 
				
			||||||
    rel := bytes.SplitN(data, []byte{'\x00'}, 2)
 | 
					 | 
				
			||||||
    if len(rel) != 2 {
 | 
					 | 
				
			||||||
        err = ErrIsNotErr
 | 
					 | 
				
			||||||
        return
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    l := len(rel[0])
 | 
					 | 
				
			||||||
    eno = syscall.Errno(BytesToUint32([4]byte{rel[0][l-4], rel[0][l-3], rel[0][l-2], rel[0][l-1]}))
 | 
					 | 
				
			||||||
    err = errors.New(string(rel[1]))
 | 
					 | 
				
			||||||
    return
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Decode [4]byte to uint32 
 | 
					// Decode [4]byte to uint32 
 | 
				
			||||||
func BytesToUint32(buf [4]byte) uint32 {
 | 
					func BytesToUint32(buf [4]byte) uint32 {
 | 
				
			||||||
    return uint32(buf[0])<<24 +
 | 
					    return uint32(buf[0])<<24 + uint32(buf[1])<<16 + uint32(buf[2])<<8 +
 | 
				
			||||||
        uint32(buf[1])<<16 +
 | 
					 | 
				
			||||||
        uint32(buf[2])<<8 +
 | 
					 | 
				
			||||||
        uint32(buf[3])
 | 
					        uint32(buf[3])
 | 
				
			||||||
}
 | 
					}
 | 
				
			||||||
 | 
					
 | 
				
			||||||
// Encode uint32 to [4]byte
 | 
					// Encode uint32 to [4]byte
 | 
				
			||||||
func Uint32ToBytes(i uint32) (data [4]byte) {
 | 
					func Uint32ToBytes(i uint32) [4]byte {
 | 
				
			||||||
    data[0] = byte((i >> 24) & 0xff)
 | 
					    return [4]byte{byte((i >> 24) & 0xff), byte((i >> 16) & 0xff),
 | 
				
			||||||
    data[1] = byte((i >> 16) & 0xff)
 | 
					        byte((i >> 8) & 0xff), byte(i & 0xff),}
 | 
				
			||||||
    data[2] = byte((i >> 8) & 0xff)
 | 
					 | 
				
			||||||
    data[3] = byte(i & 0xff)
 | 
					 | 
				
			||||||
    return
 | 
					 | 
				
			||||||
}
 | 
					}
 | 
				
			||||||
@ -1,46 +1,42 @@
 | 
				
			|||||||
package main
 | 
					package main
 | 
				
			||||||
 | 
					
 | 
				
			||||||
import (
 | 
					import (
 | 
				
			||||||
    "bitbucket.org/mikespook/gearman-go/gearman"
 | 
					 | 
				
			||||||
    "bitbucket.org/mikespook/gearman-go/gearman/client"
 | 
					 | 
				
			||||||
    "log"
 | 
					    "log"
 | 
				
			||||||
 | 
					    "sync"
 | 
				
			||||||
 | 
					    "bitbucket.org/mikespook/gearman-go"
 | 
				
			||||||
 | 
					    "bitbucket.org/mikespook/gearman-go/client"
 | 
				
			||||||
)
 | 
					)
 | 
				
			||||||
 | 
					
 | 
				
			||||||
func main() {
 | 
					func main() {
 | 
				
			||||||
    client := client.New()
 | 
					    var wg sync.WaitGroup
 | 
				
			||||||
    defer client.Close()
 | 
					
 | 
				
			||||||
    if err := client.AddServer("127.0.0.1:4730"); err != nil {
 | 
					    c, err := client.New("tcp4", "127.0.0.1:4730")
 | 
				
			||||||
 | 
					    if err != nil {
 | 
				
			||||||
        log.Fatalln(err)
 | 
					        log.Fatalln(err)
 | 
				
			||||||
    }
 | 
					    }
 | 
				
			||||||
 | 
					    defer c.Close()
 | 
				
			||||||
    echo := []byte("Hello\x00 world")
 | 
					    echo := []byte("Hello\x00 world")
 | 
				
			||||||
 | 
					    c.JobHandler = func(job *client.Job) error {
 | 
				
			||||||
    if data, err := client.Echo(echo); err != nil {
 | 
					        log.Printf("%V", job)
 | 
				
			||||||
        log.Fatalln(string(data))
 | 
					        wg.Done()
 | 
				
			||||||
 | 
					        return nil
 | 
				
			||||||
    }
 | 
					    }
 | 
				
			||||||
 | 
					
 | 
				
			||||||
    handle, err := client.Do("ToUpper", echo, gearman.JOB_NORMAL)
 | 
					    wg.Add(1)
 | 
				
			||||||
 | 
					    c.Echo(echo)
 | 
				
			||||||
 | 
					
 | 
				
			||||||
 | 
					    handle, err := c.Do("ToUpper", echo, gearman.JOB_NORMAL)
 | 
				
			||||||
    if err != nil {
 | 
					    if err != nil {
 | 
				
			||||||
        log.Fatalln(err)
 | 
					        log.Fatalln(err)
 | 
				
			||||||
    } else {
 | 
					    } else {
 | 
				
			||||||
        log.Println(handle)
 | 
					        log.Println(handle)
 | 
				
			||||||
        job := <-client.JobQueue
 | 
					 | 
				
			||||||
        if data, err := job.Result(); err != nil {
 | 
					 | 
				
			||||||
            log.Fatalln(err)
 | 
					 | 
				
			||||||
        } else {
 | 
					 | 
				
			||||||
            log.Println(string(data))
 | 
					 | 
				
			||||||
        }
 | 
					 | 
				
			||||||
    }
 | 
					    }
 | 
				
			||||||
 | 
					
 | 
				
			||||||
    known, running, numerator, denominator, err := client.Status(handle)
 | 
					    c.StatusHandler = func(handle string, known, running bool, numerator, denominator uint64) {
 | 
				
			||||||
    if err != nil {
 | 
					        log.Printf("%s: %b, %b, %d, %d", handle, known, running, numerator, denominator)
 | 
				
			||||||
        log.Fatalln(err)
 | 
					        wg.Done()
 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    if !known {
 | 
					 | 
				
			||||||
        log.Println("Unknown")
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    if running {
 | 
					 | 
				
			||||||
        log.Printf("%g%%\n", float32(numerator)*100/float32(denominator))
 | 
					 | 
				
			||||||
    } else {
 | 
					 | 
				
			||||||
        log.Println("Not running")
 | 
					 | 
				
			||||||
    }
 | 
					    }
 | 
				
			||||||
 | 
					    wg.Add(1)
 | 
				
			||||||
 | 
					    c.Status(handle)
 | 
				
			||||||
 | 
					    wg.Wait()
 | 
				
			||||||
}
 | 
					}
 | 
				
			||||||
 | 
				
			|||||||
							
								
								
									
										16
									
								
								gearman.go
									
									
									
									
									
								
							
							
						
						
									
										16
									
								
								gearman.go
									
									
									
									
									
								
							@ -1,4 +1,4 @@
 | 
				
			|||||||
// Copyright 2012 Xing Xing <mikespook@gmail.com> All rights reserved.
 | 
					// Copyright 2011 Xing Xing <mikespook@gmail.com> All rights reserved.
 | 
				
			||||||
// Use of this source code is governed by a MIT
 | 
					// Use of this source code is governed by a MIT
 | 
				
			||||||
// license that can be found in the LICENSE file.
 | 
					// license that can be found in the LICENSE file.
 | 
				
			||||||
 | 
					
 | 
				
			||||||
@ -9,7 +9,15 @@ The protocol was implemented by native way.
 | 
				
			|||||||
 | 
					
 | 
				
			||||||
package gearman
 | 
					package gearman
 | 
				
			||||||
 | 
					
 | 
				
			||||||
import (
 | 
					const (
 | 
				
			||||||
    _ "bitbucket.org/mikespook/gearman-go/gearman/client"
 | 
					    // Job type
 | 
				
			||||||
    _ "bitbucket.org/mikespook/gearman-go/gearman/worker"
 | 
					    // JOB_NORMAL | JOB_BG means a normal level job run in background
 | 
				
			||||||
 | 
					    // normal level
 | 
				
			||||||
 | 
					    JOB_NORMAL = 0
 | 
				
			||||||
 | 
					    // background job
 | 
				
			||||||
 | 
					    JOB_BG = 1
 | 
				
			||||||
 | 
					    // low level
 | 
				
			||||||
 | 
					    JOB_LOW = 2
 | 
				
			||||||
 | 
					    // high level
 | 
				
			||||||
 | 
					    JOB_HIGH = 4
 | 
				
			||||||
)
 | 
					)
 | 
				
			||||||
 | 
				
			|||||||
@ -1,278 +0,0 @@
 | 
				
			|||||||
// Copyright 2011 Xing Xing <mikespook@gmail.com> All rights reserved.
 | 
					 | 
				
			||||||
// Use of this source code is governed by a MIT
 | 
					 | 
				
			||||||
// license that can be found in the LICENSE file.
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
package client
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
import (
 | 
					 | 
				
			||||||
    "bitbucket.org/mikespook/gearman-go/gearman"
 | 
					 | 
				
			||||||
    "bytes"
 | 
					 | 
				
			||||||
    "io"
 | 
					 | 
				
			||||||
    "net"
 | 
					 | 
				
			||||||
    "strconv"
 | 
					 | 
				
			||||||
    "sync"
 | 
					 | 
				
			||||||
)
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
/* 
 | 
					 | 
				
			||||||
The client side api for gearman.
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
usage:
 | 
					 | 
				
			||||||
    client = NewClient()
 | 
					 | 
				
			||||||
    client.AddServer("127.0.0.1:4730")
 | 
					 | 
				
			||||||
    handle := client.Do("foobar", []byte("data here"), JOB_LOW | JOB_BG)
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
*/
 | 
					 | 
				
			||||||
type Client struct {
 | 
					 | 
				
			||||||
    mutex    sync.Mutex
 | 
					 | 
				
			||||||
    conn     net.Conn
 | 
					 | 
				
			||||||
    incoming chan []byte
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
    JobQueue chan *ClientJob
 | 
					 | 
				
			||||||
    UId      uint32
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Create a new client.
 | 
					 | 
				
			||||||
func New() (client *Client) {
 | 
					 | 
				
			||||||
    return &Client{
 | 
					 | 
				
			||||||
        JobQueue: make(chan *ClientJob, gearman.QUEUE_CAP),
 | 
					 | 
				
			||||||
        incoming: make(chan []byte, gearman.QUEUE_CAP),
 | 
					 | 
				
			||||||
        UId:1}
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Add a server.
 | 
					 | 
				
			||||||
// In this version, one client connect to one job server.
 | 
					 | 
				
			||||||
// Sample is better. Plz do the load balancing by your self.
 | 
					 | 
				
			||||||
func (client *Client) AddServer(addr string) (err error) {
 | 
					 | 
				
			||||||
    client.conn, err = net.Dial(gearman.TCP, addr)
 | 
					 | 
				
			||||||
    if err != nil {
 | 
					 | 
				
			||||||
        return
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    return
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Internal read
 | 
					 | 
				
			||||||
func (client *Client) read() (data []byte, err error) {
 | 
					 | 
				
			||||||
    if len(client.incoming) > 0 {
 | 
					 | 
				
			||||||
        // incoming queue is not empty
 | 
					 | 
				
			||||||
        data = <-client.incoming
 | 
					 | 
				
			||||||
    } else {
 | 
					 | 
				
			||||||
        // empty queue, read data from socket
 | 
					 | 
				
			||||||
        for {
 | 
					 | 
				
			||||||
            buf := make([]byte, gearman.BUFFER_SIZE)
 | 
					 | 
				
			||||||
            var n int
 | 
					 | 
				
			||||||
            if n, err = client.conn.Read(buf); err != nil {
 | 
					 | 
				
			||||||
                if err == io.EOF && n == 0 {
 | 
					 | 
				
			||||||
                    break
 | 
					 | 
				
			||||||
                }
 | 
					 | 
				
			||||||
                return
 | 
					 | 
				
			||||||
            }
 | 
					 | 
				
			||||||
            data = append(data, buf[0:n]...)
 | 
					 | 
				
			||||||
            if n < gearman.BUFFER_SIZE {
 | 
					 | 
				
			||||||
                break
 | 
					 | 
				
			||||||
            }
 | 
					 | 
				
			||||||
        }
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    // split package
 | 
					 | 
				
			||||||
    start, end := 0, 4
 | 
					 | 
				
			||||||
    tl := len(data)
 | 
					 | 
				
			||||||
    for i := 0; i < tl; i++ {
 | 
					 | 
				
			||||||
        if string(data[start:end]) == gearman.RES_STR {
 | 
					 | 
				
			||||||
            l := int(gearman.BytesToUint32([4]byte{data[start+8], data[start+9], data[start+10], data[start+11]}))
 | 
					 | 
				
			||||||
            total := l + 12
 | 
					 | 
				
			||||||
            if total == tl {
 | 
					 | 
				
			||||||
                return
 | 
					 | 
				
			||||||
            } else {
 | 
					 | 
				
			||||||
                client.incoming <- data[total:]
 | 
					 | 
				
			||||||
                data = data[:total]
 | 
					 | 
				
			||||||
                return
 | 
					 | 
				
			||||||
            }
 | 
					 | 
				
			||||||
        } else {
 | 
					 | 
				
			||||||
            start++
 | 
					 | 
				
			||||||
            end++
 | 
					 | 
				
			||||||
        }
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    err = gearman.ErrInvalidData
 | 
					 | 
				
			||||||
    return
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Read a job from job server.
 | 
					 | 
				
			||||||
// This function will return the job, and add it to the job queue.
 | 
					 | 
				
			||||||
func (client *Client) ReadJob() (job *ClientJob, err error) {
 | 
					 | 
				
			||||||
    var rel []byte
 | 
					 | 
				
			||||||
    if rel, err = client.read(); err != nil {
 | 
					 | 
				
			||||||
        return
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    if job, err = DecodeClientJob(rel); err != nil {
 | 
					 | 
				
			||||||
        return
 | 
					 | 
				
			||||||
    } else {
 | 
					 | 
				
			||||||
        switch job.DataType {
 | 
					 | 
				
			||||||
        case gearman.ERROR:
 | 
					 | 
				
			||||||
            _, err = gearman.GetError(job.Data)
 | 
					 | 
				
			||||||
            return
 | 
					 | 
				
			||||||
        case gearman.WORK_DATA, gearman.WORK_WARNING, gearman.WORK_STATUS, gearman.WORK_COMPLETE, gearman.WORK_FAIL, gearman.WORK_EXCEPTION:
 | 
					 | 
				
			||||||
            client.JobQueue <- job
 | 
					 | 
				
			||||||
        }
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    return
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Do the function.
 | 
					 | 
				
			||||||
// funcname is a string with function name.
 | 
					 | 
				
			||||||
// data is encoding to byte array.
 | 
					 | 
				
			||||||
// flag set the job type, include running level: JOB_LOW, JOB_NORMAL, JOB_HIGH,
 | 
					 | 
				
			||||||
// and if it is background job: JOB_BG.
 | 
					 | 
				
			||||||
// JOB_LOW | JOB_BG means the job is running with low level in background.
 | 
					 | 
				
			||||||
func (client *Client) Do(funcname string, data []byte, flag byte) (handle string, err error) {
 | 
					 | 
				
			||||||
    var datatype uint32
 | 
					 | 
				
			||||||
    if flag&gearman.JOB_LOW == gearman.JOB_LOW {
 | 
					 | 
				
			||||||
        if flag&gearman.JOB_BG == gearman.JOB_BG {
 | 
					 | 
				
			||||||
            datatype = gearman.SUBMIT_JOB_LOW_BG
 | 
					 | 
				
			||||||
        } else {
 | 
					 | 
				
			||||||
            datatype = gearman.SUBMIT_JOB_LOW
 | 
					 | 
				
			||||||
        }
 | 
					 | 
				
			||||||
    } else if flag&gearman.JOB_HIGH == gearman.JOB_HIGH {
 | 
					 | 
				
			||||||
        if flag&gearman.JOB_BG == gearman.JOB_BG {
 | 
					 | 
				
			||||||
            datatype = gearman.SUBMIT_JOB_HIGH_BG
 | 
					 | 
				
			||||||
        } else {
 | 
					 | 
				
			||||||
            datatype = gearman.SUBMIT_JOB_HIGH
 | 
					 | 
				
			||||||
        }
 | 
					 | 
				
			||||||
    } else if flag&gearman.JOB_BG == gearman.JOB_BG {
 | 
					 | 
				
			||||||
        datatype = gearman.SUBMIT_JOB_BG
 | 
					 | 
				
			||||||
    } else {
 | 
					 | 
				
			||||||
        datatype = gearman.SUBMIT_JOB
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
    rel := make([]byte, 0, 1024*64)
 | 
					 | 
				
			||||||
    rel = append(rel, []byte(funcname)...)
 | 
					 | 
				
			||||||
    rel = append(rel, '\x00')
 | 
					 | 
				
			||||||
    client.mutex.Lock()
 | 
					 | 
				
			||||||
    uid := strconv.Itoa(int(client.UId))
 | 
					 | 
				
			||||||
    client.UId++
 | 
					 | 
				
			||||||
    rel = append(rel, []byte(uid)...)
 | 
					 | 
				
			||||||
    client.mutex.Unlock()
 | 
					 | 
				
			||||||
    rel = append(rel, '\x00')
 | 
					 | 
				
			||||||
    rel = append(rel, data...)
 | 
					 | 
				
			||||||
    if err = client.WriteJob(NewClientJob(gearman.REQ, datatype, rel)); err != nil {
 | 
					 | 
				
			||||||
        return
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    var job *ClientJob
 | 
					 | 
				
			||||||
    if job, err = client.readLastJob(gearman.JOB_CREATED); err != nil {
 | 
					 | 
				
			||||||
        return
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    handle = string(job.Data)
 | 
					 | 
				
			||||||
    go func() {
 | 
					 | 
				
			||||||
        if flag&gearman.JOB_BG != gearman.JOB_BG {
 | 
					 | 
				
			||||||
            for {
 | 
					 | 
				
			||||||
                if job, err = client.ReadJob(); err != nil {
 | 
					 | 
				
			||||||
                    return
 | 
					 | 
				
			||||||
                }
 | 
					 | 
				
			||||||
                switch job.DataType {
 | 
					 | 
				
			||||||
                case gearman.WORK_DATA, gearman.WORK_WARNING:
 | 
					 | 
				
			||||||
                case gearman.WORK_STATUS:
 | 
					 | 
				
			||||||
                case gearman.WORK_COMPLETE, gearman.WORK_FAIL, gearman.WORK_EXCEPTION:
 | 
					 | 
				
			||||||
                    return
 | 
					 | 
				
			||||||
                }
 | 
					 | 
				
			||||||
            }
 | 
					 | 
				
			||||||
        }
 | 
					 | 
				
			||||||
    }()
 | 
					 | 
				
			||||||
    return
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Internal read last job
 | 
					 | 
				
			||||||
func (client *Client) readLastJob(datatype uint32) (job *ClientJob, err error) {
 | 
					 | 
				
			||||||
    for {
 | 
					 | 
				
			||||||
        if job, err = client.ReadJob(); err != nil {
 | 
					 | 
				
			||||||
            return
 | 
					 | 
				
			||||||
        }
 | 
					 | 
				
			||||||
        if job.DataType == datatype {
 | 
					 | 
				
			||||||
            break
 | 
					 | 
				
			||||||
        }
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    if job.DataType != datatype {
 | 
					 | 
				
			||||||
        err = gearman.ErrDataType
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    return
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Get job status from job server.
 | 
					 | 
				
			||||||
// !!!Not fully tested.!!!
 | 
					 | 
				
			||||||
func (client *Client) Status(handle string) (known, running bool, numerator, denominator uint64, err error) {
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
    if err = client.WriteJob(NewClientJob(gearman.REQ, gearman.GET_STATUS, []byte(handle))); err != nil {
 | 
					 | 
				
			||||||
        return
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    var job *ClientJob
 | 
					 | 
				
			||||||
    if job, err = client.readLastJob(gearman.STATUS_RES); err != nil {
 | 
					 | 
				
			||||||
        return
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    data := bytes.SplitN(job.Data, []byte{'\x00'}, 5)
 | 
					 | 
				
			||||||
    if len(data) != 5 {
 | 
					 | 
				
			||||||
        err = gearman.ErrInvalidData
 | 
					 | 
				
			||||||
        return
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    if handle != string(data[0]) {
 | 
					 | 
				
			||||||
        err = gearman.ErrInvalidData
 | 
					 | 
				
			||||||
        return
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    known = data[1][0] == '1'
 | 
					 | 
				
			||||||
    running = data[2][0] == '1'
 | 
					 | 
				
			||||||
    if numerator, err = strconv.ParseUint(string(data[3][0]), 10, 0); err != nil {
 | 
					 | 
				
			||||||
        return
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    if denominator, err = strconv.ParseUint(string(data[4][0]), 10, 0); err != nil {
 | 
					 | 
				
			||||||
        return
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    return
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Send a something out, get the samething back.
 | 
					 | 
				
			||||||
func (client *Client) Echo(data []byte) (echo []byte, err error) {
 | 
					 | 
				
			||||||
    if err = client.WriteJob(NewClientJob(gearman.REQ, gearman.ECHO_REQ, data)); err != nil {
 | 
					 | 
				
			||||||
        return
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    var job *ClientJob
 | 
					 | 
				
			||||||
    if job, err = client.readLastJob(gearman.ECHO_RES); err != nil {
 | 
					 | 
				
			||||||
        return
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    echo = job.Data
 | 
					 | 
				
			||||||
    return
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Get the last job.
 | 
					 | 
				
			||||||
// the job means a network package. 
 | 
					 | 
				
			||||||
// Normally, it is the job executed result.
 | 
					 | 
				
			||||||
func (client *Client) LastJob() (job *ClientJob) {
 | 
					 | 
				
			||||||
    if l := len(client.JobQueue); l != 1 {
 | 
					 | 
				
			||||||
        if l == 0 {
 | 
					 | 
				
			||||||
            return
 | 
					 | 
				
			||||||
        }
 | 
					 | 
				
			||||||
        for i := 0; i < l-1; i++ {
 | 
					 | 
				
			||||||
            <-client.JobQueue
 | 
					 | 
				
			||||||
        }
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    return <-client.JobQueue
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Send the job to job server.
 | 
					 | 
				
			||||||
func (client *Client) WriteJob(job *ClientJob) (err error) {
 | 
					 | 
				
			||||||
    return client.write(job.Encode())
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Internal write
 | 
					 | 
				
			||||||
func (client *Client) write(buf []byte) (err error) {
 | 
					 | 
				
			||||||
    var n int
 | 
					 | 
				
			||||||
    for i := 0; i < len(buf); i += n {
 | 
					 | 
				
			||||||
        n, err = client.conn.Write(buf[i:])
 | 
					 | 
				
			||||||
        if err != nil {
 | 
					 | 
				
			||||||
            return
 | 
					 | 
				
			||||||
        }
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    return
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Close.
 | 
					 | 
				
			||||||
func (client *Client) Close() (err error) {
 | 
					 | 
				
			||||||
    err = client.conn.Close()
 | 
					 | 
				
			||||||
    close(client.JobQueue)
 | 
					 | 
				
			||||||
    return
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
@ -1,41 +0,0 @@
 | 
				
			|||||||
package client
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
import (
 | 
					 | 
				
			||||||
    "bitbucket.org/mikespook/gearman-go/gearman"
 | 
					 | 
				
			||||||
    "testing"
 | 
					 | 
				
			||||||
)
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
var client *Client
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
func init() {
 | 
					 | 
				
			||||||
    client = NewClient()
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
func TestClientAddServer(t *testing.T) {
 | 
					 | 
				
			||||||
    t.Log("Add local server 127.0.0.1:4730")
 | 
					 | 
				
			||||||
    if err := client.AddServer("127.0.0.1:4730"); err != nil {
 | 
					 | 
				
			||||||
        t.Error(err)
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
func TestClientEcho(t *testing.T) {
 | 
					 | 
				
			||||||
    if echo, err := client.Echo([]byte("Hello world")); err != nil {
 | 
					 | 
				
			||||||
        t.Error(err)
 | 
					 | 
				
			||||||
    } else {
 | 
					 | 
				
			||||||
        t.Log(echo)
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
func TestClientDo(t *testing.T) {
 | 
					 | 
				
			||||||
    if handle, err := client.Do("ToUpper", []byte("abcdef"), gearman.JOB_LOW|gearman.JOB_BG); err != nil {
 | 
					 | 
				
			||||||
        t.Error(err)
 | 
					 | 
				
			||||||
    } else {
 | 
					 | 
				
			||||||
        t.Log(handle)
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
func TestClientClose(t *testing.T) {
 | 
					 | 
				
			||||||
    if err := client.Close(); err != nil {
 | 
					 | 
				
			||||||
        t.Error(err)
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
@ -1,98 +0,0 @@
 | 
				
			|||||||
// Copyright 2011 Xing Xing <mikespook@gmail.com> All rights reserved.
 | 
					 | 
				
			||||||
// Use of this source code is governed by a MIT
 | 
					 | 
				
			||||||
// license that can be found in the LICENSE file.
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
package client
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
import (
 | 
					 | 
				
			||||||
    "bitbucket.org/mikespook/gearman-go/gearman"
 | 
					 | 
				
			||||||
    "bytes"
 | 
					 | 
				
			||||||
)
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Client side job
 | 
					 | 
				
			||||||
type ClientJob struct {
 | 
					 | 
				
			||||||
    Data                []byte
 | 
					 | 
				
			||||||
    Handle, UniqueId    string
 | 
					 | 
				
			||||||
    magicCode, DataType uint32
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Create a new job
 | 
					 | 
				
			||||||
func NewClientJob(magiccode, datatype uint32, data []byte) (job *ClientJob) {
 | 
					 | 
				
			||||||
    return &ClientJob{magicCode: magiccode,
 | 
					 | 
				
			||||||
        DataType: datatype,
 | 
					 | 
				
			||||||
        Data:     data}
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Decode a job from byte slice
 | 
					 | 
				
			||||||
func DecodeClientJob(data []byte) (job *ClientJob, err error) {
 | 
					 | 
				
			||||||
    if len(data) < 12 {
 | 
					 | 
				
			||||||
        err = gearman.ErrInvalidData
 | 
					 | 
				
			||||||
        return
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    datatype := gearman.BytesToUint32([4]byte{data[4], data[5], data[6], data[7]})
 | 
					 | 
				
			||||||
    l := gearman.BytesToUint32([4]byte{data[8], data[9], data[10], data[11]})
 | 
					 | 
				
			||||||
    if len(data[12:]) != int(l) {
 | 
					 | 
				
			||||||
        err = gearman.ErrInvalidData
 | 
					 | 
				
			||||||
        return
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    data = data[12:]
 | 
					 | 
				
			||||||
    job = NewClientJob(gearman.RES, datatype, data)
 | 
					 | 
				
			||||||
    return
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Encode a job to byte slice
 | 
					 | 
				
			||||||
func (job *ClientJob) Encode() (data []byte) {
 | 
					 | 
				
			||||||
    magiccode := gearman.Uint32ToBytes(job.magicCode)
 | 
					 | 
				
			||||||
    datatype := gearman.Uint32ToBytes(job.DataType)
 | 
					 | 
				
			||||||
    data = make([]byte, 0, 1024*64)
 | 
					 | 
				
			||||||
    data = append(data, magiccode[:]...)
 | 
					 | 
				
			||||||
    data = append(data, datatype[:]...)
 | 
					 | 
				
			||||||
    l := len(job.Data)
 | 
					 | 
				
			||||||
    datalength := gearman.Uint32ToBytes(uint32(l))
 | 
					 | 
				
			||||||
    data = append(data, datalength[:]...)
 | 
					 | 
				
			||||||
    data = append(data, job.Data...)
 | 
					 | 
				
			||||||
    return
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Extract the job's result.
 | 
					 | 
				
			||||||
func (job *ClientJob) Result() (data []byte, err error) {
 | 
					 | 
				
			||||||
    switch job.DataType {
 | 
					 | 
				
			||||||
    case gearman.WORK_FAIL:
 | 
					 | 
				
			||||||
        job.Handle = string(job.Data)
 | 
					 | 
				
			||||||
        err = gearman.ErrWorkFail
 | 
					 | 
				
			||||||
        return
 | 
					 | 
				
			||||||
    case gearman.WORK_EXCEPTION:
 | 
					 | 
				
			||||||
        err = gearman.ErrWorkException
 | 
					 | 
				
			||||||
        fallthrough
 | 
					 | 
				
			||||||
    case gearman.WORK_COMPLETE:
 | 
					 | 
				
			||||||
        s := bytes.SplitN(job.Data, []byte{'\x00'}, 2)
 | 
					 | 
				
			||||||
        if len(s) != 2 {
 | 
					 | 
				
			||||||
            err = gearman.ErrInvalidData
 | 
					 | 
				
			||||||
            return
 | 
					 | 
				
			||||||
        }
 | 
					 | 
				
			||||||
        job.Handle = string(s[0])
 | 
					 | 
				
			||||||
        data = s[1]
 | 
					 | 
				
			||||||
    default:
 | 
					 | 
				
			||||||
        err = gearman.ErrDataType
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    return
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
 | 
					 | 
				
			||||||
// Extract the job's update
 | 
					 | 
				
			||||||
func (job *ClientJob) Update() (data []byte, err error) {
 | 
					 | 
				
			||||||
    if job.DataType != gearman.WORK_DATA && job.DataType != gearman.WORK_WARNING {
 | 
					 | 
				
			||||||
        err = gearman.ErrDataType
 | 
					 | 
				
			||||||
        return
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    s := bytes.SplitN(job.Data, []byte{'\x00'}, 2)
 | 
					 | 
				
			||||||
    if len(s) != 2 {
 | 
					 | 
				
			||||||
        err = gearman.ErrInvalidData
 | 
					 | 
				
			||||||
        return
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    if job.DataType == gearman.WORK_WARNING {
 | 
					 | 
				
			||||||
        err = gearman.ErrWorkWarning
 | 
					 | 
				
			||||||
    }
 | 
					 | 
				
			||||||
    job.Handle = string(s[0])
 | 
					 | 
				
			||||||
    data = s[1]
 | 
					 | 
				
			||||||
    return
 | 
					 | 
				
			||||||
}
 | 
					 | 
				
			||||||
@ -5,7 +5,7 @@
 | 
				
			|||||||
package worker
 | 
					package worker
 | 
				
			||||||
 | 
					
 | 
				
			||||||
import (
 | 
					import (
 | 
				
			||||||
    "bitbucket.org/mikespook/gearman-go/gearman"
 | 
					    gearman "bitbucket.org/mikespook/gearman-go"
 | 
				
			||||||
    "io"
 | 
					    "io"
 | 
				
			||||||
    "net"
 | 
					    "net"
 | 
				
			||||||
)
 | 
					)
 | 
				
			||||||
@ -5,7 +5,7 @@
 | 
				
			|||||||
package worker
 | 
					package worker
 | 
				
			||||||
 | 
					
 | 
				
			||||||
import (
 | 
					import (
 | 
				
			||||||
    "bitbucket.org/mikespook/gearman-go/gearman"
 | 
					    gearman "bitbucket.org/mikespook/gearman-go"
 | 
				
			||||||
    "bytes"
 | 
					    "bytes"
 | 
				
			||||||
    "sync"
 | 
					    "sync"
 | 
				
			||||||
)
 | 
					)
 | 
				
			||||||
@ -5,7 +5,7 @@
 | 
				
			|||||||
package worker
 | 
					package worker
 | 
				
			||||||
 | 
					
 | 
				
			||||||
import (
 | 
					import (
 | 
				
			||||||
    "bitbucket.org/mikespook/gearman-go/gearman"
 | 
					    gearman "bitbucket.org/mikespook/gearman-go"
 | 
				
			||||||
    "strconv"
 | 
					    "strconv"
 | 
				
			||||||
)
 | 
					)
 | 
				
			||||||
 | 
					
 | 
				
			||||||
		Loading…
	
		Reference in New Issue
	
	Block a user