One Level Up Top Level

src/os/unix/ngx_udp_sendmsg_chain.c - nginx source code

Functions defined

Source code


  2. /*
  3. * Copyright (C) Igor Sysoev
  4. * Copyright (C) Nginx, Inc.
  5. */


  8. #include <ngx_config.h>
  9. #include <ngx_core.h>
  10. #include <ngx_event.h>


  13. static ngx_chain_t *ngx_udp_output_chain_to_iovec(ngx_iovec_t *vec,
  14.     ngx_chain_t *in, ngx_log_t *log);
  15. static ssize_t ngx_sendmsg_vec(ngx_connection_t *c, ngx_iovec_t *vec);


  18. ngx_chain_t *
  19. ‌ngx_udp_unix_sendmsg_chain(ngx_connection_t *c, ngx_chain_t *in, off_t limit)
  20. {
  21.     ssize_t        n;
  22.     off_t          send;
  23.     ngx_chain_t   *cl;
  24.     ngx_event_t   *wev;
  25.     ngx_iovec_t    vec;
  26.     struct iovec   iovs[NGX_IOVS_PREALLOCATE];

  28.     wev = c->write;

  30.     if (!wev->ready) {
  31.         return in;
  32.     }

  34. #if (NGX_HAVE_KQUEUE)

  36.     if ((ngx_event_flags & NGX_USE_KQUEUE_EVENT) && wev->pending_eof) {
  37.         (void) ngx_connection_error(c, wev->kq_errno,
  38.                                "kevent() reported about an closed connection");
  39.         wev->error = 1;
  40.         return NGX_CHAIN_ERROR;
  41.     }

  43. #endif

  45.     /* the maximum limit size is the maximum size_t value - the page size */

  47.     if (limit == 0 || limit > (off_t) (NGX_MAX_SIZE_T_VALUE - ngx_pagesize)) {
  48.         limit = NGX_MAX_SIZE_T_VALUE - ngx_pagesize;
  49.     }

  51.     send = 0;

  53.     vec.iovs = iovs;
  54.     vec.nalloc = NGX_IOVS_PREALLOCATE;

  56.     for ( ;; ) {

  58.         /* create the iovec and coalesce the neighbouring bufs */

  60.         cl = ngx_udp_output_chain_to_iovec(&vec, in, c->log);

  62.         if (cl == NGX_CHAIN_ERROR) {
  63.             return NGX_CHAIN_ERROR;
  64.         }

  66.         if (cl && cl->buf->in_file) {
  67.             ngx_log_error(NGX_LOG_ALERT, c->log, 0,
  68.                           "file buf in sendmsg "
  69.                           "t:%d r:%d f:%d %p %p-%p %p %O-%O",
  70.                           cl->buf->temporary,
  71.                           cl->buf->recycled,
  72.                           cl->buf->in_file,
  73.                           cl->buf->start,
  74.                           cl->buf->pos,
  75.                           cl->buf->last,
  76.                           cl->buf->file,
  77.                           cl->buf->file_pos,
  78.                           cl->buf->file_last);

  80.             ngx_debug_point();

  82.             return NGX_CHAIN_ERROR;
  83.         }

  85.         if (cl == in) {
  86.             return in;
  87.         }

  89.         send += vec.size;

  91.         n = ngx_sendmsg_vec(c, &vec);

  93.         if (n == NGX_ERROR) {
  94.             return NGX_CHAIN_ERROR;
  95.         }

  97.         if (n == NGX_AGAIN) {
  98.             wev->ready = 0;
  99.             return in;
  100.         }

  102.         c->sent += n;

  104.         in = ngx_chain_update_sent(in, n);

  106.         if (send >= limit || in == NULL) {
  107.             return in;
  108.         }
  109.     }
  110. }


  113. static ngx_chain_t *
  114. ‌ngx_udp_output_chain_to_iovec(ngx_iovec_t *vec, ngx_chain_t *in, ngx_log_t *log)
  115. {
  116.     size_t         total, size;
  117.     u_char        *prev;
  118.     ngx_uint_t     n, flush;
  119.     ngx_chain_t   *cl;
  120.     struct iovec  *iov;

  122.     cl = in;
  123.     iov = NULL;
  124.     prev = NULL;
  125.     total = 0;
  126.     n = 0;
  127.     flush = 0;

  129.     for ( /* void */ ; in && !flush; in = in->next) {

  131.         if (in->buf->flush || in->buf->last_buf) {
  132.             flush = 1;
  133.         }

  135.         if (ngx_buf_special(in->buf)) {
  136.             continue;
  137.         }

  139.         if (in->buf->in_file) {
  140.             break;
  141.         }

  143.         if (!ngx_buf_in_memory(in->buf)) {
  144.             ngx_log_error(NGX_LOG_ALERT, log, 0,
  145.                           "bad buf in output chain "
  146.                           "t:%d r:%d f:%d %p %p-%p %p %O-%O",
  147.                           in->buf->temporary,
  148.                           in->buf->recycled,
  149.                           in->buf->in_file,
  150.                           in->buf->start,
  151.                           in->buf->pos,
  152.                           in->buf->last,
  153.                           in->buf->file,
  154.                           in->buf->file_pos,
  155.                           in->buf->file_last);

  157.             ngx_debug_point();

  159.             return NGX_CHAIN_ERROR;
  160.         }

  162.         size = in->buf->last - in->buf->pos;

  164.         if (prev == in->buf->pos) {
  165.             iov->iov_len += size;

  167.         } else {
  168.             if (n == vec->nalloc) {
  169.                 ngx_log_error(NGX_LOG_ALERT, log, 0,
  170.                               "too many parts in a datagram");
  171.                 return NGX_CHAIN_ERROR;
  172.             }

  174.             iov = &vec->iovs[n++];

  176.             iov->iov_base = (void *) in->buf->pos;
  177.             iov->iov_len = size;
  178.         }

  180.         prev = in->buf->pos + size;
  181.         total += size;
  182.     }

  184.     if (!flush) {
  185. #if (NGX_SUPPRESS_WARN)
  186.         vec->size = 0;
  187.         vec->count = 0;
  188. #endif
  189.         return cl;
  190.     }

  192.     /* zero-sized datagram; pretend to have at least 1 iov */
  193.     if (n == 0) {
  194.         iov = &vec->iovs[n++];
  195.         iov->iov_base = NULL;
  196.         iov->iov_len = 0;
  197.     }

  199.     vec->count = n;
  200.     vec->size = total;

  202.     return in;
  203. }


  206. static ssize_t
  207. ‌ngx_sendmsg_vec(ngx_connection_t *c, ngx_iovec_t *vec)
  208. {
  209.     struct msghdr    msg;

  211. #if (NGX_HAVE_ADDRINFO_CMSG)
  212.     struct cmsghdr  *cmsg;
  213.     u_char           msg_control[CMSG_SPACE(sizeof(ngx_addrinfo_t))];
  214. #endif

  216.     ngx_memzero(&msg, sizeof(struct msghdr));

  218.     if (c->socklen) {
  219.         msg.msg_name = c->sockaddr;
  220.         msg.msg_namelen = c->socklen;
  221.     }

  223.     msg.msg_iov = vec->iovs;
  224.     msg.msg_iovlen = vec->count;

  226. #if (NGX_HAVE_ADDRINFO_CMSG)
  227.     if (c->listening && c->listening->wildcard && c->local_sockaddr) {

  229.         msg.msg_control = msg_control;
  230.         msg.msg_controllen = sizeof(msg_control);
  231.         ngx_memzero(msg_control, sizeof(msg_control));

  233.         cmsg = CMSG_FIRSTHDR(&msg);

  235.         msg.msg_controllen = ngx_set_srcaddr_cmsg(cmsg, c->local_sockaddr);
  236.     }
  237. #endif

  239.     return ngx_sendmsg(c, &msg, 0);
  240. }


  243. #if (NGX_HAVE_ADDRINFO_CMSG)

  245. size_t
  246. ‌ngx_set_srcaddr_cmsg(struct cmsghdr *cmsg, struct sockaddr *local_sockaddr)
  247. {
  248.     size_t                len;
  249. #if (NGX_HAVE_IP_SENDSRCADDR)
  250.     struct in_addr       *addr;
  251.     struct sockaddr_in   *sin;
  252. #elif (NGX_HAVE_IP_PKTINFO)
  253.     struct in_pktinfo    *pkt;
  254.     struct sockaddr_in   *sin;
  255. #endif

  257. #if (NGX_HAVE_INET6 && NGX_HAVE_IPV6_RECVPKTINFO)
  258.     struct in6_pktinfo   *pkt6;
  259.     struct sockaddr_in6  *sin6;
  260. #endif


  263. #if (NGX_HAVE_IP_SENDSRCADDR) || (NGX_HAVE_IP_PKTINFO)

  265.     if (local_sockaddr->sa_family == AF_INET) {

  267.         cmsg->cmsg_level = IPPROTO_IP;

  269. #if (NGX_HAVE_IP_SENDSRCADDR)

  271.         cmsg->cmsg_type = IP_SENDSRCADDR;
  272.         cmsg->cmsg_len = CMSG_LEN(sizeof(struct in_addr));
  273.         len = CMSG_SPACE(sizeof(struct in_addr));

  275.         sin = (struct sockaddr_in *) local_sockaddr;

  277.         addr = (struct in_addr *) CMSG_DATA(cmsg);
  278.         *addr = sin->sin_addr;

  280. #elif (NGX_HAVE_IP_PKTINFO)

  282.         cmsg->cmsg_type = IP_PKTINFO;
  283.         cmsg->cmsg_len = CMSG_LEN(sizeof(struct in_pktinfo));
  284.         len = CMSG_SPACE(sizeof(struct in_pktinfo));

  286.         sin = (struct sockaddr_in *) local_sockaddr;

  288.         pkt = (struct in_pktinfo *) CMSG_DATA(cmsg);
  289.         ngx_memzero(pkt, sizeof(struct in_pktinfo));
  290.         pkt->ipi_spec_dst = sin->sin_addr;

  292. #endif
  293.         return len;
  294.     }

  296. #endif

  298. #if (NGX_HAVE_INET6 && NGX_HAVE_IPV6_RECVPKTINFO)
  299.     if (local_sockaddr->sa_family == AF_INET6) {

  301.         cmsg->cmsg_level = IPPROTO_IPV6;
  302.         cmsg->cmsg_type = IPV6_PKTINFO;
  303.         cmsg->cmsg_len = CMSG_LEN(sizeof(struct in6_pktinfo));
  304.         len = CMSG_SPACE(sizeof(struct in6_pktinfo));

  306.         sin6 = (struct sockaddr_in6 *) local_sockaddr;

  308.         pkt6 = (struct in6_pktinfo *) CMSG_DATA(cmsg);
  309.         ngx_memzero(pkt6, sizeof(struct in6_pktinfo));
  310.         pkt6->ipi6_addr = sin6->sin6_addr;

  312.         return len;
  313.     }
  314. #endif

  316.     return 0;
  317. }


  320. ngx_int_t
  321. ‌ngx_get_srcaddr_cmsg(struct cmsghdr *cmsg, struct sockaddr *local_sockaddr)
  322. {

  324. #if (NGX_HAVE_IP_RECVDSTADDR)
  325.     struct in_addr       *addr;
  326.     struct sockaddr_in   *sin;
  327. #elif (NGX_HAVE_IP_PKTINFO)
  328.     struct in_pktinfo    *pkt;
  329.     struct sockaddr_in   *sin;
  330. #endif

  332. #if (NGX_HAVE_INET6 && NGX_HAVE_IPV6_RECVPKTINFO)
  333.     struct in6_pktinfo   *pkt6;
  334.     struct sockaddr_in6  *sin6;
  335. #endif


  338. #if (NGX_HAVE_IP_RECVDSTADDR)

  340.     if (cmsg->cmsg_level == IPPROTO_IP
  341.         && cmsg->cmsg_type == IP_RECVDSTADDR
  342.         && local_sockaddr->sa_family == AF_INET)
  343.     {
  344.         addr = (struct in_addr *) CMSG_DATA(cmsg);
  345.         sin = (struct sockaddr_in *) local_sockaddr;
  346.         sin->sin_addr = *addr;

  348.         return NGX_OK;
  349.     }

  351. #elif (NGX_HAVE_IP_PKTINFO)

  353.     if (cmsg->cmsg_level == IPPROTO_IP
  354.         && cmsg->cmsg_type == IP_PKTINFO
  355.         && local_sockaddr->sa_family == AF_INET)
  356.     {
  357.         pkt = (struct in_pktinfo *) CMSG_DATA(cmsg);
  358.         sin = (struct sockaddr_in *) local_sockaddr;
  359.         sin->sin_addr = pkt->ipi_addr;

  361.         return NGX_OK;
  362.     }

  364. #endif

  366. #if (NGX_HAVE_INET6 && NGX_HAVE_IPV6_RECVPKTINFO)

  368.     if (cmsg->cmsg_level == IPPROTO_IPV6
  369.         && cmsg->cmsg_type == IPV6_PKTINFO
  370.         && local_sockaddr->sa_family == AF_INET6)
  371.     {
  372.         pkt6 = (struct in6_pktinfo *) CMSG_DATA(cmsg);
  373.         sin6 = (struct sockaddr_in6 *) local_sockaddr;
  374.         sin6->sin6_addr = pkt6->ipi6_addr;

  376.         return NGX_OK;
  377.     }

  379. #endif

  381.     return NGX_DECLINED;
  382. }

  384. #endif


  387. ssize_t
  388. ‌ngx_sendmsg(ngx_connection_t *c, struct msghdr *msg, int flags)
  389. {
  390.     ssize_t    n;
  391.     ngx_err_t  err;
  392. #if (NGX_DEBUG)
  393.     size_t      size;
  394.     ngx_uint_t  i;
  395. #endif

  397. eintr:

  399.     n = sendmsg(c->fd, msg, flags);

  401.     if (n == -1) {
  402.         err = ngx_errno;

  404.         switch (err) {
  405.         case NGX_EAGAIN:
  406.             ngx_log_debug0(NGX_LOG_DEBUG_EVENT, c->log, err,
  407.                            "sendmsg() not ready");
  408.             return NGX_AGAIN;

  410.         case NGX_EINTR:
  411.             ngx_log_debug0(NGX_LOG_DEBUG_EVENT, c->log, err,
  412.                            "sendmsg() was interrupted");
  413.             goto eintr;

  415.         default:
  416.             c->write->error = 1;
  417.             ngx_connection_error(c, err, "sendmsg() failed");
  418.             return NGX_ERROR;
  419.         }
  420.     }

  422. #if (NGX_DEBUG)
  423.     for (i = 0, size = 0; i < (size_t) msg->msg_iovlen; i++) {
  424.         size += msg->msg_iov[i].iov_len;
  425.     }

  427.     ngx_log_debug2(NGX_LOG_DEBUG_EVENT, c->log, 0,
  428.                    "sendmsg: %z of %uz", n, size);
  429. #endif

  431.     return n;
  432. }

One Level Up Top Level