sql >> Database >  >> NoSQL >> Redis

Twisted:waarom zorgt het doorgeven van een uitgestelde callback naar een uitgestelde thread ervoor dat de thread ineens blokkeert?

Nou, zoals de verwrongen documenten zeggen:

Uitgesteld maken de code niet magisch niet blokkeren

Telkens wanneer u blokkeercode gebruikt, zoals sleep , je moet het uitstellen naar een nieuwe thread.

#!/usr/bin/env python
from twisted.internet import reactor,defer, threads
from twisted.internet.task import LoopingCall
import time

def main_loop():
    print 'doing stuff in main loop.. do not block me!'

def aBlockingRedisCall(x):
    if x<5: #all connections are busy, try later
        print '%s is less than 5, get a redis client later' % x
        x+=1
        d = defer.Deferred()
        d.addCallback(aBlockingRedisCall)
        reactor.callLater(1.0,d.callback,x)
        return d

    else: 
        print 'got a redis client; doing lookup.. this may take a while'
        def getstuff( x ):
            time.sleep(3)
            return "stuff is %s" % x

        # getstuff is blocking, so you need to push it to a new thread
        d = threads.deferToThread(getstuff, x)
        d.addCallback(gotFinalResult)
        return d

def gotFinalResult(x):
    return 'final result is %s' % x

def result(res):
    print res

def aBlockingMethod():
    print 'going to sleep...'
    time.sleep(10)
    print 'woke up'

def main():
    lc = LoopingCall(main_loop)
    lc.start(2)


    d = defer.Deferred()
    d.addCallback(aBlockingRedisCall)
    d.addCallback(result)
    reactor.callInThread(d.callback, 1)
    reactor.run()

if __name__=='__main__':
    main()

Als de redis-api niet erg complex is, is het misschien natuurlijker om deze te herschrijven met twisted.web, in plaats van alleen de blokkerende api in veel threads aan te roepen.



  1. MongoDB - onderscheiden met query gebruikt geen indexen

  2. Het scrapy-redis-programma sluit niet automatisch

  3. Wat zijn de onderliggende datastructuren die voor Redis worden gebruikt?

  4. Hoe kan ik zien waar mongoDB gegevens opslaat? (het staat niet in de standaard /data/db!)